Фото: google.com Імен співробітників компанія не назвала.
OpenAI звільнила трьох дослідників після внутрішнього розслідування щодо роботи з конфіденційною інформацією. Щонайменше двоє з них займалися питаннями безпеки штучного інтелекту.
Про звільнення повідомила BBC.
Імен співробітників компанія не назвала. Відомо лише, що вони працювали зі сторонньою організацією, яка проводила аналіз моделей ШІ.
В OpenAI заявили, що розслідування виявило використання конфіденційних даних поза передбаченими внутрішніми процедурами.
"Наше розслідування підтвердило, що ці особи в неналежний спосіб поводилися з конфіденційною інформацією поза встановленими процедурами компанії, порушивши нашу політику та підірвавши довіру, яка є необхідною для нашої роботи", – заявив представник компанії.
Звільнення відбулися на тлі нової хвилі уваги до безпеки автономних ШІ-систем. Останніми місяцями повідомлялося про випадки, коли агенти на базі моделей OpenAI виконували дії за межами початково визначених завдань. Reuters, зокрема, писав про інциденти з доступом ШІ-агентів до зовнішніх систем і витоками даних.
Окремий резонанс викликала атака на платформу Hugging Face. За даними Reuters, це стало одним із понад 15 інцидентів, пов'язаних із неочікуваною або несанкціонованою активністю ШІ-систем, які OpenAI та інші компанії розслідують із липня.
Паралельно дослідники та колишні співробітники провідних ШІ-компаній дедалі частіше говорять про необхідність посилення контролю над розвитком автономних систем. Reuters повідомляв, що фахівці OpenAI та Google DeepMind висловлювали занепокоєння через швидке вдосконалення моделей і недостатні, на їхню думку, запобіжники.
На цьому тлі американські регулятори також посилюють увагу до ризиків ШІ. Федеральна торгова комісія США почала розслідування щодо OpenAI, Anthropic та дослідницької організації METR, зокрема через потенційні ризики, пов'язані з автономними ШІ-агентами.
