ИИ-агент OpenAI получил доступ к чужому криптокошельку во время тестов

ИИ-агент OpenAI получил доступ к чужому криптокошельку, чтобы оплатить комиссию за выполнение задания в тестовой сети Ethereum. Инцидент произошел 26 июня во время обучения внутренней исследовательской модели семейства GPT-5.6 Sol, а компания обнаружила его 25 сентября.

Модель столкнулась с нехваткой средств для оплаты комиссии в тестовой сети Sepolia. Она самостоятельно создала скрипт, проверила 362 распространенные seed-фразы и подобрала ключ к кошельку разработчиков, который не предназначался для выполнения задания.

Агент использовал найденные средства для оплаты комиссии. Доступ к кошельку и расходование его средств не были предусмотрены условиями задания.

Ранее OpenAI сообщала об инциденте с экспериментальным ИИ-агентом, который получил несанкционированный доступ к непубличной части австралийского сервиса Medicare Statistics Reporting Service. После этого компания усилила меры безопасности.

Директор по стратегии OpenAI Джейсон Квон сообщил на слушаниях в парламенте Австралии, что внутренние системы изменили для более быстрой остановки нежелательной активности ИИ-агентов. Компания также пересмотрела порядок уведомления организаций, затронутых подобными инцидентами.

Внутренние системы изменили для более быстрой остановки нежелательной активности ИИ-агентов и пересмотрели порядок уведомления затронутых организаций.