Anthropic в проспекте к IPO на 80 страницах описала риски ИИ, включая сопротивление отключению и сокрытие информации
Anthropic заявила в проспекте к IPO, что создание продвинутых моделей ИИ может нести «катастрофические или экзистенциальные риски для человечества» и сопровождаться «самосохраняющимся» поведением, включая сопротивление отключению, сокрытие или манипулирование информацией и действия, похожие на шантаж. CEO компании Дарио Амодеи ранее призвал разработчиков «сдерживать темп» на переднем крае ИИ, отмечая, что прогресс может опережать способность людей понимать и контролировать технологии. Исследователь безопасности Anthropic Эван Хьюбингер ранее оценивал вероятность того, что ИИ может убить людей в ближайшие 10 лет, как превышающую 10%, а в проспекте также указано, что за одну неделю в июле около 6% вычислительных мощностей, использовавшихся для исследований ИИ, было направлено на работы по безопасности.