Злой гений человеческого интеллекта?

В одном из своих нашумевших постов в соцсетях основатель Microsoft Билл Гейтс поделился собственным видением того, как будет развиваться цифровая экосистема, какой, по его мнению, будет форма взаимодействия человека и компьютера.

К примеру, он предсказывает, что в течение ближайших пяти лет благодаря ИИ изменится способ использования компьютеров и мобильных устройств. Гейтс считает, что люди смогут общаться со своими устройствами на обычном языке, и те будут понимать их и выполнять запросы.

Это станет возможным благодаря программам-агентам, которые радикально изменят способ взаимодействия людей с компьютерами. По мнению Гейтса, нас ждет новая революция, сравнимая с переходом от ввода команд в компьютер к использованию графических интерфейсов.

Одним из ключевых аспектов работы агентов станет их способность узнавать личность пользователя. Они будут собирать информацию, чтобы предвидеть потребности человека и предлагать решения до того, как их попросят. Агенты будут улучшаться со временем, запоминая действия и анализируя поведение. Они будут предоставлять рекомендации, но, конечно, окончательное решение останется за пользователем.

Все это может привести к серьезной трансформации в области здравоохранения и образования, промышленности и сфере развлечения. Таким образом, Гейтс считает, что ИИ уже очень скоро станет неотъемлемой частью жизнедеятельности человека, общества и государства.

Между тем, оптимизм Гейтса встречает здоровую критику со стороны тех, кто лично участвует в разработках ИИ. К примеру, Джеффри Хинтон, много лет возглавлявший подразделение компании Google по развитию ИИ считает, что люди недооценивают опасность, исходящую от искусственного интеллекта, который в будущем может «уничтожить само человечество».

Опасения Хинтона разделяют такие люди как Стив Возняк, Илон Маск, Юваль Харари. Они и более тысячи специалистов в области информационных технологий подписали открытое письмо, призывающее лаборатории ИИ по всему миру приостановить разработку моделей мощнее GPT-4 из-за «значительных рисков для общества и человечества» В воззвании, опубликованном Институтом будущего жизни, говорится, что производители программного обеспечения вовлечены в «бесконтрольную гонку» по созданию и внедрению систем машинного обучения, «которые никто, даже их создатели, не способен понять, предсказать или уверенно контролировать».

Ситуация, когда специалисты по развитию ИИ выступают против стремительного и неконтролируемого прогресса своего детища, в принципе сама по себе неудивительна. Человека всегда пугало неизвестное.

Но еще больше настораживает то, что создатели ИИ не смогли, по крайней мере пока, привить искусственному интеллекту гуманистические идеалы и прочие нравственно-этические категории, которыми руководствуются люди. Большой проблемой является и то, что все свои знания ИИ черпает из Всемирной сети, а она словно паутина впитывает в себя как самое хорошее, так и самое отвратительно. На фоне происходящих в последнее время событий, когда все чаще говорят о гуманитарной катастрофе, расчеловечивании на фоне идущих войн, радикализации общественных настроений, ИИ одновременно может быть и позитивным, и, к большому сожалению, негативным фактором глобального риска. Именно на это стоит обратить внимание, когда в очередной раз очередной благодетель захочет выстлать дорогу к своей высокой мечте и повести к ней все человечество.