Самой очевидной непосредственной угрозой представляется изменение климата. В 2018 году Межправительственная комиссия по изменению климата опубликовала следующий анализ: чтобы не допустить увеличения глобальной температуры более чем на 1,5 °C — это порог, до которого можно надеяться на предотвращение катастрофического ущерба, — мы должны будем к 2050 году сократить выбросы углекислого газа до нуля. Чтобы иметь более-менее реальные шансы на это, к 2030 году выбросы должны снизиться на 45%3.
Масштаб
По прогнозу консалтинговой фирмы PwC, к 2030 году ИИ добавит в мировую экономику около $15,7 трлн, что особенно необходимо сейчас, когда мы надеемся на восстановление после масштабного экономического кризиса, вызванного пандемией коронавируса7. Что, пожалуй, самое важное — искусственный интеллект превратится в незаменимый инструмент, имеющий ключевое значение для решения наших самых сложных проблем, включая изменение климата и деградацию окружающей среды, неизбежную новую пандемию, нехватку энергии и чистой воды, нищету и недоступность образования.
Следует в полной мере использовать потенциал искусственного интеллекта в интересах прогресса — но с открытыми глазами. Риски необходимо устранять. Требуется правовое регулирование и в некоторых случаях запрет определенных видов использования ИИ. Все это должно происходить уже сегодня, потому что будущее наступит значительно раньше, чем мы к нему подготовимся.
Было бы преувеличением
суперинтеллектуальную» машину — нечто, настолько превосходящее нас, что оно сможет — намеренно или случайно — нанести нам вред? Это, конечно, довольно умозрительное опасение, и данная проблема встанет лишь в случае, если нам когда-нибудь удастся создать действительно разумную машину. Пока это тема научной фантастики. Тем не менее реальный искусственный интеллект человеческого уровня — заветная мечта разработчиков, и немало очень умных людей относятся к этой опасности со всей серьезностью. Такие выдающиеся люди, как Илон Маск и покойный Стивен Хокинг, предупреждали об угрозе выхода ИИ из-под контроля. Маск, например, наделал немало шума в СМИ своим заявлением, что исследования в области искусственного интеллекта — это попытки «вызвать демона» и что «ИИ опаснее ядерного оружия»