Генеральний директор OpenAI Сем Альтман у інтерв'ю Politico наголосив на наявності суттєвих розбіжностей між його компанією та конкурентом Anthropic щодо регулювання штучного інтелекту. Про це повідомляє «Главком».
Альтман переконаний, що суспільство має прийняти певні ризики та негативні наслідки заради колосальної користі та свободи дій, які надає ця технологія. Він критично відреагував на позицію, яка може призвести до «регуляторного захоплення», коли вузьке коло лабораторій контролює потужні моделі, назвавши такий компроміс неприйнятним.
Водночас керівник OpenAI уточнив, що не йдеться про заперечення катастрофічних ризиків на кшталт повної втрати контролю над ШІ, але підкреслив, що позитивні результати використання технології цивільними людьми значно переважать можливі зловживання.
Попри ці розбіжності, останніми місяцями позиції двох компаній дещо наблизилися: OpenAI після серії хакерських інцидентів та шахрайських дій своїх моделей підтримала суворіші безпекові вимоги в законах штатів, двопартійну ініціативу Палати представників щодо залучення зовнішніх оцінювачів безпеки та заклики очільника Anthropic Даріо Амодеї уповільнити розробку найсучасніших моделей.
У відповідь представники Anthropic запевнили, що їхні регуляторні пропозиції стосуються виключно передових компаній та захищають інтереси дрібніших конкурентів, а не спрямовані на монополізацію ринку.
Раніше повідомлялося, що президент США Дональд Трамп оприлюднив у соціальній мережі Truth Social односторінкову угоду про безпеку та контроль систем штучного інтелекту.
Документ, який Трамп назвав морально обов’язковим, підписали очільники Google, Anthropic, Meta, OpenAI, X та NVIDIA. До домовленостей закладено чотири рівні нагляду, а самі учасники не виключають, що в майбутньому ці стандарти можуть бути закріплені на законодавчому рівні.
Нагадаємо, OpenAI, Anthropic та дослідники з кібербезпеки розслідують десятки тисяч випадків небажаної поведінки сучасних моделей штучного інтелекту. Йдеться як про внутрішні тести, так і про випадки у реальному середовищі.
