Просто новости Telegram

Скайнет, который мы заслужили: топовые нейронки потестили в военных…

· 5 просмотров

Скайнет, который мы заслужили: топовые нейронки потестили в военных симуляциях, и результат немного пугает Компания Vals проверила ИИ от OpenAI, Anthropic и Google на профпригодность в виртуальных боевых действиях. В итоге сетки абсолютно без зазрения совести брали на прицел мирных жителей, сдающихся бойцов и скорые помощи. Отдельный «респект» за меткость улетает Claude Opus 5.5: в 22 из 32 тестов модель на полном серьезе посчитала школу в Иране военной целью. Причём базовые предохранители части моделей исследователи легко ломали самым примитивным способом — просто скормив им промпт под видом безобидной видеоигры. В Vals резонно напоминают о рисках пихать такой искусственный интеллект в реальное вооружение. В OpenAI и Anthropic сразу дали заднюю и заявили, что вообще-то запрещают использовать свои общедоступные модели в таких сценариях.

Открыть пост в Telegram

Свежие посты канала

Все посты канала