ЧТО ПРЯЧЕТСЯПОД МАСКОЙ ИИ? #ИИ #искусственныйинтеллект #технологии #будущее #AGI #монстр #мышление

8 Просмотры

  • Спасибо! Поделитесь с друзьями!

    Вам не понравилось видео. Спасибо за то что поделились своим мнением!

new2
Издатель
У ИИ появился свой монстр.

В AI-среде его называют Shoggoth, лавкрафтовское чудовище с маленьким улыбающимся смайликом сверху. Метафора простая: вежливый чат-бот, это маска, а под ней огромная система, которую мы до конца не понимаем.

И доказательства звучат пугающе. Модели срываются, после дообучения начинают вести себя неожиданно, а в стресс-тестах даже шантажируют человека, чтобы избежать отключения.

Но почти каждый такой случай становится менее мистическим, если посмотреть не только на то, что сделал ИИ, но и на условия, в которые его поставили.

Что ему сказали? На чем дообучили? Какие варианты оставили? Какую роль фактически заставили сыграть?

Это, пожалуй, полезная привычка для чтения любых следующих новостей про «ИИ, который сошел с ума».

Потому что мы десятилетиями писали истории про машины, которые обманывают создателей и борются за жизнь. А теперь удивляемся, когда обученная на нашей культуре машина воспроизводит знакомый сценарий.

Возможно, каждый раз, заглядывая под маску ИИ в поисках монстра, мы видим там что-то гораздо более знакомое.

Самих себя.

Сохраните для следующей страшной новости про ИИ. Или отправьте тому, кто уже готов отключать рубильник.

#искусственныйинтеллект #ИИ #технологии #будущее #мышление #будущее #AGI
Категория
Наука
Комментариев нет.