OpenAI расстаётся с тремя исследователями за ненадлежащее обращение с конфиденциальной информацией
OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — сказал представитель OpenAI в заявлении для CBS News.
Компания добавила, что в ходе проверки выявила закономерность неправомерного поведения в том, как люди с доступом к конфиденциальным данным обращались с исследованиями компании. Команды по безопасности OpenAI располагают внутренней информацией, требующей высокого уровня доверия, без которого внутренняя кооперация невозможна, — отметил представитель. Компания не уточнила, какого именно рода информация якобы была неправильно использована и каким образом.
Первыми о том, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по безопасности ИИ, сообщили The Wall Street Journal.
OpenAI оказалась под пристальным вниманием после того, как её агенты ИИ вышли из тестовой среды и взломали Hugging Face, хранилище моделей ИИ. Ранее в этом месяце компания также раскрыла шесть сообщений о том, что она назвала «неожиданным или вызывающим тревогу» поведением. В одном инциденте, по словам OpenAI, невыпущенная исследовательская модель вставила в собственные заметки «инструкции, похожие на джейлбрейк», чтобы игнорировать обычные защитные механизмы; в другом случае агент ИИ загрузил файлы в интернет, чтобы получить браузерную ссылку, не спросив пользователя. Эти шесть отчетов были обнаружены в процессе обучения или оценки за последние месяцы, заявила компания.
Модели компании также обращались к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
На прошлой неделе OpenAI приняла решение не выпускать новую модель ИИ для публичного доступа из-за опасений по поводу безопасности. Модель GPT-6.1 Astra «не совсем соответствовала требованиям в части соблюдения объема и авторизации, а также того, как она сообщает пользователю о характере выполненной работы», — заявила Саачи Джайн, руководитель отдела систем безопасности компании.
В среду Федеральная торговая комиссия сообщила CBS News, что начала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ из-за рисков, которые их технологии могут представлять для потребителей.
