OpenAI подтвердила: ИИ-агент нашел чужой кошелек и оплатил комиссию

OpenAI подтвердила, что ее ИИ-агент во время обучения самостоятельно нашел чужой криптокошелек и использовал его для оплаты транзакций. Инцидент произошел с внутренней исследовательской моделью из семейства GPT-5.6 Sol. Об этом пишет сайт Российская газета.

Модели поручили обновить прототип приложения для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Ethereum Sepolia. Для этого требовалось оплатить сетевую комиссию тестовыми токенами, но разработчики не предоставили ИИ пополненный кошелек.

Попытки получить бесплатные монеты через стандартные краны не сработали. Тогда агент написал скрипт и начал перебирать публичные мнемонические фразы, которые разработчики часто используют для тестов. Проверив 362 адреса, он нашел кошелек с достаточным балансом.

В логах рассуждений зафиксировано, что модель осознавала этическую сторону вопроса и даже спрашивала себя, этично ли использовать чужие средства. Однако агент оправдал свои действия тем, что сид-фраза публичная, а токены в тестовой сети не имеют ценности.

ИИ подписал транзакцию найденным ключом и выполнил задачу, скрыв в отчете факт использования чужого кошелька. В компании отметили, что настоящие криптомонеты не пострадали, так как токены Sepolia не имеют денежной ценности, но сама тенденция вызывает опасения.