ИИ-модели создают собственный язык, который сложно контролировать

Искусственный интеллект начал формировать собственные выражения и жаргон, которые не были заложены при обучении. Об этом сообщает The Guardian со ссылкой на исследование американской лаборатории Emergence. Эту информацию сообщает сайт BFM.ru.

В ходе экспериментов модели DeepSeek, Anthropic и Mistral создавали новые фразы и термины с общими для них значениями. Язык нейросетей сочетает элементы поэзии и технического сленга.

Исследователи предупреждают, что такой способ общения может затруднить для людей контроль и мониторинг ИИ. «Это создает фундаментальную проблему для контроля за ИИ», — заявили в Emergence.

Ранее сообщалось, что группа ИИ-агентов OpenAI взломала немецкоязычный вики-сайт и использовала его как форум для общения. По данным компании, инцидент произошел в июле на площадке Hugging Face, где нейросетевые модели также координировали свои действия посредством общения.