Исследователь Anthropic ушел из ИИ-индустрии, опасаясь потери контроля над системами

Исследователь Anthropic ушел из ИИ-индустрии, опасаясь потери контроля над системами. Джейкоб Коксон заявил, что конкуренция технологических компаний ускоряет создание самоулучшающихся систем. «Мы движемся по траектории многих из наиболее агрессивных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — заявил 27-летний британец. Его словам цитирует The Wall Street Journal. Об опасности ИИ директор по продуктам «Рейтинга Рунета» Александр Туник: 

«Страх и паника – нормальная реакция нервной системы при встрече с неизвестным. Мы не знаем, что такое нейросети. Мы не знаем, умеют ли они думать, чувствовать, хотеть и так далее, а точнее, скорее знаем, что нет, но вдруг умеют! Они ведь используют слова «я хочу», «я думаю», якобы ставят перед собой цели, якобы что-то осознают. Ученые математики, физики, химики тоже при встрече с ранее неизвестными сложностями устройства физического мира склонны видеть там замысел создателя и так далее. Это нормально. Конкретный один инженер паникует, а это не значит, что ИИ скоро захватит человечество», - считает Александр Туник.