Угроза искусственного интеллекта
Человек всегда боится того, что не может понять и осознать, особенно радикальных изменений будущего, и так было всегда. То ли это переход от лошадей к автомобилям, от свечей к электричеству, то ли отсутствие связи с всемирной паутиной под названием интернет. Наступила новая эпоха развития современных технологий и их потребления человечеством. Мобильная связь, Viber, Skype, социальные сети и прочие элементы виртуальной связи уже давно стали для нас привычными вещами.
Что нас ждет в ближайшие десятилетия? Успешное создание искусственного интеллекта? К сожалению, это событие может оказаться последним, если человечество не научится избегать рисков. В будущем может случиться так, что никто и ничто не сможет остановить машины с искусственным интеллектом от самосовершенствования. А это запустит процесс так называемой технологической сингулярности — чрезвычайно быстрого технологического развития. Искусственный интеллект сможет превзойти человека и начнет управлять финансовыми рынками, научными исследованиями, людьми, разработкой оружия… Краткосрочный эффект искусственного интеллекта зависит от того, кто им управляет, а долгосрочный — от того, можно ли будет им управлять вообще.
Искусственный интеллект давно притягивает ученых и одновременно пугает. Идея о переносе сознания человека на электронный носитель не является новой или уникальной. Много раз мы «наблюдали искусственный интеллект в действии»: Скайнет, уничтоживший человечество в «Терминаторе», Архитектор, поработивший мир в «Матрице»… Человечество планомерно приучается к угрозе искусственного интеллекта.
Так что же произойдет, если действительно появится кто-то или что-то, способное превзойти нас? И что будет преобладать у искусственного интеллекта — человек или искусственный поток информации, сознание или чип?
Меня впечатлил фильм «Превосходство» с участием Джонни Деппа. Вопросы, поднятые в картине, могут стать более чем актуальными не в гипотетически обозримом будущем, а в любой момент настоящего, ведь работы по созданию искусственного интеллекта становятся всё более сложными, а сам искусственный интеллект — независимым и самостоятельным. К каким необратимым последствиям может привести желание обессмертить человеческую природу за счёт объединения живого организма с компьютерным разумом?
Фильм «Превосходство»- рассказ об эволюции. Выдающийся исследователь в области изучения искусственного интеллекта доктор Уилл Кастер (Джонни Депп) работает над созданием компьютера, который сможет собрать в себе все знания и опыт, накопленные человечеством. Эксперименты, проводимые Уиллом, сделали его основной целью анти технологической группировки. Однако в своих попытках уничтожить Уилла радикалы добиваются обратного и становятся участниками становления абсолютного превосходства искусственного интеллекта. Оцифрованное сознание Уилла Кастера копирует себя на каждое электронное устройство с выходом в интернет. Уилл Кастер, по сути, обрёл силу бога. Но он не стремился к мировому господству. Он хотел создать совершенный мир, без войн, голода и разрухи. Но человечество оказалось не готовым к таким переменам. Герой Джонни Деппа доказывает, что даже будучи оцифрованным, руководствуясь благими намерениями по спасению мира и человечества, можно быть не понятым, убитым и проигравшим.
Мы подсознательно настроены на отказ от новых технологий, если есть риск, что их использование приведёт к гибели человечества, мы инстинктивно боимся перешагнуть точку невозврата — когда не сумеем справиться с последствиями спровоцированных цивилизацией глобальных изменений. Но что, если точка невозврата уже пройдена? Компьютеры подчиняются закону Мура: их скорость и сложность удваиваются каждые 18 месяцев. Этот рост будет продолжаться, пока компьютеры, по сложности устройства, не сравняются с человеческим мозгом. Опасность, что они смогут разработать искусственный интеллект и захватить мир, реальна. Как сказал Мичио Каку: «от того, как мы справимся с вызовами и возможностями начавшегося века, будет зависеть, окончательная траектория дальнейшего движения человеческой расы».
Фильм «Превосходство» не оставил равнодушным самого известного ученого планеты Стивена Хокинга. В статье для Independent ученый предупреждает, что вполне вероятны негативные последствия от создания совершенного искусственного интеллекта. Хокинг считает создание искусственного интеллекта, «возможно, худшей ошибкой в истории».
«Заглядывая в будущее, существенных ограничений нет: не существует физического закона, который бы не давал частицам переупорядочить себя таким образом, чтобы выполнять даже более сложные операции, чем те, что доступны человеческому мозгу», — предупреждает Стивен Хокинг.
Личные ассистенты — Siri и Cortana, умный транспорт Google, автопилоты — всё это, по мнению учёного, только первый шаг к созданию искусственного интеллекта, который пока представляется плодом буйного воображения писателей-фантастов. Однако уже следующий этап обещает быть менее мирным и пушистым:
«В самое ближайшее время военные планируют начать разработку автономных систем вооружения, которые смогут выбирать и уничтожать цели. ООН и Организация по правам человека уже настаивают на заключении договора, запрещающего подобное оружие».
Новая голливудская картина «Превосходство» по словам Стивена Хокинга, не столько очередной научно-фантастический фильм, сколько один из возможных сценариев развития будущего человечества.
Успех в создании искусственного интеллекта станет по-настоящему величайшим событием в истории человечества. Но в то же время данная разработка может стать и последним событием в истории, если не просчитать все потенциальные риски и опасности.
В начале фильма, на пресс-конференции доктора Уилла Кастера один из террористов задал важный вопрос: «то есть вы хотите создать бога?». Ответ ученого не понял никто, ни простой люд, ни собратья ученые. И именно в этом непонимании кроется главная проблема — люди с радостью поклоняются отсутствующим богам, но в страхе разбегаются и пытаются уничтожить реально существующий высший разум.
Так может быть, вначале нужно понять этот мир, прежде чем стремится его изменить, создавая «компьютерного бога»?
