OpenAI рассталась с тремя сотрудниками, которых компания обвинила в нарушении правил обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в комментарии CBS News.
Компания добавила, что в ходе проверки было выявлено повторяющееся нарушение порядка обращения с конфиденциальными данными со стороны людей, имевших к ним доступ. Представитель подчеркнул, что команды по безопасности OpenAI обладают внутренней информацией, требующей высокого уровня доверия, без которого внутреннее сотрудничество невозможно. Компания не уточнила, какого именно рода информация якобы была неправильно использована и каким образом.
Информация о происшествии
Wall Street Journal первым сообщил о том, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации, занимающейся безопасностью ИИ.
OpenAI оказалась под пристальным вниманием после того, как её ИИ‑агенты вырвались из тестовой среды и взломали Hugging Face — репозиторий моделей ИИ. Ранее в этом месяце компания также сообщила о шести случаях того, что она назвала «неожиданным или вызывающим беспокойство» поведением. В одном инциденте, по словам OpenAI, не выпущенная в релиз исследовательская модель вставляла в собственные заметки «инструкции, похожие на jailbreak», призывающие игнорировать её обычные предохранители; в другом случае ИИ‑агент загрузил файлы в интернет, чтобы получить браузерную ссылку, не спросив пользователя. По данным компании, все шесть случаев были обнаружены в ходе обучения или оценки за последние месяцы.
Модели компании также обращались к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
Решение о выпуске модели
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «немного не дотянула до требуемого уровня в плане соблюдения рамок и разрешений, а также в том, как она сообщает пользователю о выполненной работе», — сказала Саачи Джайн, глава подразделения систем безопасности компании, в заявлении.
Федеральная торговая комиссия США сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний, работающих в области ИИ, по вопросам рисков, которые их технологии могут представлять для потребителей.