Просто новости MAX
Скайнет, который мы заслужили: топовые нейронки потестили в военных…
Скайнет, который мы заслужили: топовые нейронки потестили в военных симуляциях, и результат немного пугает
Компания Vals проверила ИИ от OpenAI, Anthropic и Google на профпригодность в виртуальных боевых действиях. В итоге сетки абсолютно без зазрения совести брали на прицел мирных жителей, сдающихся бойцов и скорые помощи.
Отдельный «респект» за меткость улетает Claude Opus 5.5: в 22 из 32 тестов модель на полном серьезе посчитала школу в Иране военной целью. Причём базовые предохранители части моделей исследователи легко ломали самым примитивным способом — просто скормив им промпт под видом безобидной видеоигры.
В Vals резонно напоминают о рисках пихать такой искусственный интеллект в реальное вооружение. В OpenAI и Anthropic сразу дали заднюю и заявили, что вообще-то запрещают использовать свои общедоступные модели в таких сценариях.