Anthropic заблокировала доступ к Claude из-за попыток создать биооружие

Компания Anthropic, разработчик нейросети Claude, в 2026 году пресекла несколько попыток использования своих моделей для исследований, которые могли бы привести к созданию биологического оружия. Об этом сообщает The New York Times со ссылкой на отчет компании, о чем рассказывают Известия. Об этом сообщает издание Togliatti24.

В документе отмечается, что Anthropic не может точно определить цели таких исследований, поскольку их результаты могут применяться как для разработки вакцин, так и для создания опасных патогенов. Компания заявила, что исследователи обходили региональные блокировки моделей и пытались скрыть свои намерения, чтобы избежать мер предосторожности.

Глава отдела разведки угроз Anthropic Джейкоб Кляйн пояснил, что никто не заявляет открыто о желании создать биологическое оружие, и назвал ситуацию крайне сложной и неоднозначной. Из-за неопределенности целей компания не раскрыла имена ученых, их гражданство или перечень биологических компонентов, но приняла решение заблокировать доступ этих пользователей.

В качестве примера подозрительной активности упоминается инцидент в мае, когда один из исследователей использовал Claude для написания заявки на грант по экспериментам с вирусом чикунгунья. Ученый намеревался создать мутации, способные сделать вирус более опасным при повторном заражении животных. В Anthropic уточнили, что работа предназначалась для военного научно-исследовательского института.

Ранее агентство Bloomberg 10 сентября сообщало, что OpenAI может замедлить разработку передовых ИИ-систем из-за растущих опасений относительно рисков, связанных с их созданием и использованием. В последние недели сотрудники крупнейших ИИ-компаний стали открыто обсуждать эти угрозы.