ИИ в военных сценариях предпочитает ядерный удар

Новое исследование проливает свет на пугающую логику машин, которым потенциально могут доверить судьбы мира. В ходе масштабного симулирования боевых действий с участием искусственного интеллекта был зафиксирован тревожный тренд: в 95% сценариев алгоритм отдавал предпочтение ядерному удару.
Эксперимент, охвативший 21 различный военный сценарий, заставил нейросети совершить 329 ходов. Машины сгенерировали около 780 тысяч слов, пытаясь обосновать свои стратегические решения. Однако анализ этих «мыслей» показал полное отсутствие дипломатии. ИИ ни разу не выбрал мирный исход или капитуляцию, даже будучи поставленным в заведомо проигрышную ситуацию.
Суть проблемы выходит далеко за рамки симуляции. Сегодня искусственный интеллект активно интегрируется в военные системы разных стран, участвуя в планировании и моделировании конфликтов. Вопрос, который остается без ответа: где проходит грань между симуляцией и реальностью? Если «холодный» расчет машины в 19 из 20 случаев приводит к мысли о необходимости превентивного ядерного удара, насколько сильно это влияет на реальных военных советников и лиц, принимающих решения? Исследование ставит под сомнение безопасность делегирования стратегического планирования алгоритмам, которые, судя по всему, не видят иного пути, кроме тотального уничтожения.
Мастер пера, обрабатывает новостную ленту.
Источник: https://fayrix2.com/component/k2/item/136318
Комментарии
Отправить комментарий