СОЗДАТЕЛИ ИИ ГОВОРЯТ ЧТО ОН НАС УБЬЁТ

7 Просмотры
Издатель
#ии #технологии #безопасность #openai #anthropic

Это пожалуй, самая тревожная новость за последнее время: ведущий исследователь, который разрабатывал и ChatGPT и Claude, опубликовал заявление об уходе. Оно уже набрало больше 140 миллионов просмотров. В нём он пишет, что ни одна из этих компаний не действует ответственно и что они, по сути, играют нашими жизнями.

Речь о Джейкобе Кокстоне. Ему 27 лет, и последние три года он работал в OpenAI и Anthropic. Но на днях он выложил серию постов в X и публично рассказал о своих опасениях. Цитата: «Люди, которые создают ИИ, искренне верят, что он может убить нас всех до конца десятилетия». Он даже заявил, что руководители этих компаний в частных разговорах сами признаются в страхе.

По словам Кокстона, единственная причина, по которой разработку продолжают, это мировая гонка ИИ, в которой никто не хочет проиграть.

Но дальше всё становится совсем безумным. Потому что хотя некоторые и обвиняют Кокстона в том, что он просто обиженный бывший сотрудник, ему публично ответил Эван Хубингер, действующий руководитель направления безопасности в Anthropic, который до сих пор там работает. И сказал, что Кокстон вообще-то прав. Цитата: «Джейкоб прав. Мы действительно искренне считаем, что ИИ может убить всех людей. Лично я оцениваю вероятность этого в ближайшее десятилетие выше десяти процентов. Я верю, что Anthropic делает всё возможное, но у нас пока нет плана, как решить задачу безопасности для сверхинтеллекта, и мы явно не движемся к тому, чтобы его получить».

То есть руководитель безопасности одной из крупнейших ИИ-компаний мира публично говорит, что плана нет. Если вам интересно, как именно ИИ потенциально может нас уничтожить - напишите, сделаю отдельно видео.
Категория
AI / Нейросети
Комментариев нет.