3 Просмотры

  • Спасибо! Поделитесь с друзьями!

    Вам не понравилось видео. Спасибо за то что поделились своим мнением!

new2
Издатель
В Женеве государства обсуждают один из самых сложных вопросов эпохи AI:

можно ли позволить автономной системе самостоятельно принимать решение о применении силы — без человека?

Переговоры проходят в рамках ООН по Lethal Autonomous Weapons Systems — LAWS.

В Convention on Certain Conventional Weapons участвуют 128 государств, но единого подхода пока нет.

Главный спор — сколько контроля должен сохранять человек.

Представим современную автономную систему:

дрон собирает изображения и sensor data →

наземный робот добавляет свои данные →

AI объединяет информацию →

распознаёт объект →

оценивает ситуацию →

предлагает дальнейшее действие.

Но именно после этого появляется критический вопрос:

может ли AI действовать самостоятельно или окончательное решение должен подтвердить человек?

Один из обсуждаемых подходов — human-in-the-loop.

AI может анализировать данные и выдавать рекомендацию, но перед критическим действием система останавливается и запрашивает authorization.

Человек проверяет:

Категория
AI / Нейросети
Комментариев нет.