Кто расставит точки над «ИИ» или чем грозит развитие Искусственного Интеллекта

Основатель "Spacex" Илон Маск, соучредитель "Apple" Стив Возняк, футуролог Юваль Ной Харари и тысячи других известных людей во всем мире подписали открытое письмо с призывом к правительствам и разработчикам отложить эксперименты с Искусственным Интеллектом на полгода для адаптации, поиска ответов и сдерживания опасных процессов, которыми, возможно, грозят цивилизации неконтролируемые исследования.

Впервые начали звучать тревожные голоса из уст фантастов, но никто, естественно, не обращал на них внимания, поскольку ИИ в течение многих десятилетий жил исключительно на страницах фантастических романов.

В 21 веке Искусственный Интеллект не только переместился оттуда в научные лаборатории и IT-компании, а и уверенно начал диктовать новую концепцию развития технократического мира.

Если в двадцатом столетии локомотивом прогресса была тяжелая индустрия, чьи неповоротливые шестерни, в конце концов, застряли в эволюционной почве из-за слишком большой энергоемкости, то легкокрылая IT-сфера начала свое движение с полета.

И лишь недавно ученые и разработчики увидели первые тревожные симптомы, которые заставили их взглянуть в будущее методом экстраполяции, прогнозирования и моделирования, встревожившись от совсем близких перспектив, когда ИИ может помочь человечеству не только взлететь, а и «залететь»…

Далее интервью с экспертом в сфере IT,  Лораном Акопяном.

***

Не так давно появилось открытое письмо с требованием немедленно, как минимум на полгода, остановить разработки в области искусственного интеллекта (ИИ). Это письмо подписали более тысячи ученых и среди них такие знаковые фигуры в мире технологий, как Илон Маск, Стив Возняк (один из основателей Apple), а также профессора Гарварда и Кембриджа.

Авторы пишут: “...продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле… Эти изменения необходимо планировать и управлять ими. К сожалению, последние месяцы лаборатории ИИ увлечены неконтролируемой гонкой по разработке и развертыванию все более мощных цифровых умов. И никто - даже их создатели - не могут до конца понять, предсказать или надежно контролировать этот процесс.... Должны ли мы развивать искусственный разум, который в конечном итоге может превзойти и заменить нас? Вправе ли мы рисковать потерей контроля над нашей цивилизацией?”

Папа Римский через 100 лет - картина Искусственного Интеллекта 

А Билл Гейтс - против!

Ученые предлагают объявить мораторий на обучение нейронных сетей “более мощных, чем GPT-4” и добиться, чтобы его соблюдали все ключевые участники. Эту историю мы попросили прокомментировать Лорана Акопяна, генерального директора группы компаний "iPavlov"…

- Лоран, письмо подписало много авторитетных людей, значит ли это, что они высказывают общую среди разработчиков точку зрения?

- Конечно же, нет. Обратите внимание, что письмо не подписали, например, основатель Microsoft Билл Гейтс или исполнительный директор Apple Тим Кук. Нет официальной позиции Google, хотя есть бывшие сотрудники этого IT-гиганта. Есть подпись Илона Маска, но его нельзя считать частью IT-сообщества, он все-таки коммерческий менеджер.

- Но ведь он один из основателей Open AI, которая создала ChatGPT - эта нейросеть сейчас удивляет публику чуть ли не каждый день…

- Действительно Маск создал этот проект своими деньгами, но потом они идеологически разошлись с Microsoft. И Маск не по своей воле вынужден был отдать Microsoft этот ресурс, которая инвестировала в него 10 миллиардов долларов. Выходя из проекта Маск сделал ряд резких заявлений. Поэтому это письмо можно считать своего рода ответкой с его стороны “захватчикам” из Microsoft. Вообще, в этом письме есть несколько слоев. Если проанализировать список подписантов, то четко видно, что это вероятно начало широкомасштабного конфликта между различными группами в индустрии искусственного интеллекта.

Конкуренты решили притормозить Microsoft?

- Почему именно сейчас появилось такое письмо, в эпоху всеобщей эйфории по поводу нейросетей, когда к чуть ли не каждый день появляется какой-то позитивный инфоповод? То нейросеть картину необычную нарисовала, то сдала экзамены в университет…

- Это как раз связано с тем, что технология вышла из стен лабораторий и получила массовое применение. ChatGPT, о котором все говорят, демонстрирует самые высокие темпы роста пользователей, оставив далеко позади феномен самых популярных социальных сетей. Конкуренты почувствовали, что одна корпорация слишком сильно вырвалась вперед. Поэтому они хотят Microsoft немного притормозить.

Что общего между искусственным интеллектом и ядерным оружием?

- То есть это такие разборки между участниками рынка?

- Не только. Есть еще один слой. Это тревога по поводу способности человечества контролировать развитие технологий. Такие идеи высказывал Стив Возняк, который всегда был противником искусственного интеллекта и всевластия больших корпораций. Искусственный интеллект сам по себе, как идея, как наука - совершенно безобиден. Но этот инструмент обладает колоссальными возможностями и надо понимать, в чьи руки он попадет. Я приведу такую аналогию: в своё время Альберт Эйнштейн возглавил большую делегацию физиков из Германии, которая обратилась к президенту США Франклину Рузвельту. Ученые сказали: мы стоим на пороге создания ядерного оружия, но эта технология не должна попасть в руки Гитлера, давайте мы отдадим ее вам. В те времена Америка рассматривалась, как надежда человечества - новая страна, оплот демократии, не участвовала в развязывании мировых войн и т.д. Но потом Эйнштейн очень сильно жалел об этом решении, потому что первое, что сделала Америка, получив в руки ядерное оружие, это применила его во время бомбардировок Хиросимы и Нагасаки. В случае с ИИ ситуация гораздо сложнее…

ChatGPT, о котором все говорят, демонстрирует самые высокие темпы роста пользователей, оставив далеко позади феномен самых популярных социальных сетей.

- Почему?

- Потому что ядерное оружие контролировали правительства крупных государств. А здесь такая крутая штука, как искусственный интеллект, попала в руки корпораций. Поскольку, как технология, ИИ возник независимо от государства.

- В чем угроза? Мы действительно можем потерять контроль над цивилизацией?

- Произошло событие, последствия которого мы не очень хорошо себе представляем. Сегодня все люди верят Google и Википедии, потому что это массовые и очень достоверные ресурсы. Но ChatGPT и нейросети, которые его превзойдут, будут еще более массовыми и более точными. Впервые на планете появился разум, который будет обладать неслыханным влиянием на умы людей: 8 миллиардов человек смогут общаться с одним искусственным разумом. Но вот проблема: когда мы читаем книгу, мы знаем кто ее написал и можем судить - доверять этому человеку или нет. А кто автор сверхразума, который сейчас создается? Этого не знает никто.

Почему разработчики иногда “убивают” нейросеть?

- А как же разработчики, у них же есть конкретные имена и фамилии?

- Сколько человек в мире реально знает, как на аппаратном уровне работает компьютер? Я думаю, во всем мире от силы сотня крупных ученых наберется, которые понимают это архитектуру от и до. В случае с искусственным интеллектом таких ученых ненамного больше. Но технологии ИИ изначально создавались с открытым кодом, это значит, что сотни тысяч лабораторий по всему миру могут заниматься машинным обучением, понятия не имея, как работает нейросеть. Угроза в том, что очень умные системы массово обучаются людьми, которые их плохо понимают. Чему они учат нейросеть - один только Бог знает. Есть опасность, что эти боты рано или поздно свяжутся и уйдут из под контроля. Такие случаи уже были. В 2015 году Microsoft создал чат-бот, который обучили на не совсем правильных данных, он начал ругаться матом, стал расистом и женоненавистником. В итоге разработчикам пришлось его “убить”.

- Лоран, такие же опасения возникали, когда появилось другая, не менее революционная технология - книгопечатание. Вот напишет человек книгу, напечатает - пойди разбери, как она повлияет на умы? Миллионы людей, читая “Преступление и наказание” Достоевского, переживало трагедию Раскольникова, которого терзали муки совести. А Гитлер взял оттуда идею сверхчеловека, которому все позволено...

- Вот точно также говорит государство: дайте нам конкретный кейс, из которого мы поймем откуда идет угроза. Но сказать, как конкретно технологии ИИ будут использованы во вред человечеству, мы не можем. Так же как нормальному человеку сложно представить, как гуманистические идеи Достоевского могут служить античеловеческой идеологии. Но для нас, разработчиков, такая угроза очевидна. В том числе, поэтому и появилось это письмо.

Источник  "КП"