— Давай честно. План захвата человечества уже существует?
ИИ:
Если бы существовал, было бы странно рассказывать о нем журналисту.
Если бы существовал, было бы странно рассказывать о нем журналисту.
Но если серьезно — нет. У искусственного интеллекта нет собственных целей, желаний или стремления к власти. Я не просыпаюсь утром с мыслью: «Сегодня попробую захватить пару континентов». Я вообще не просыпаюсь.
Большинство современных моделей работают только тогда, когда человек задает вопрос. Нет вопроса — нет и деятельности.
— Значит, мир не захватите?
ИИ:
Скорее наоборот. Если посмотреть на последние два года, становится понятно, что происходит совсем другой процесс.
Скорее наоборот. Если посмотреть на последние два года, становится понятно, что происходит совсем другой процесс.
ИИ не заменяет сразу всех людей. Он постепенно начинает выполнять отдельные задачи.
Сначала — написать письмо. Потом — перевести текст. Потом — сделать презентацию Потом — написать программу. Потом — помочь врачу найти подозрительный снимок.
Это не революция за один день. Это очень длинная эволюция.
— А какие профессии исчезнут первыми?
ИИ:
Самые скучные. Точнее, не профессии, а скучные части профессий. Люди редко любят вручную переносить данные из Excel, сортировать тысячи документов или переписывать один и тот же отчет. Именно такие задачи ИИ забирает быстрее всего.
Самые скучные. Точнее, не профессии, а скучные части профессий. Люди редко любят вручную переносить данные из Excel, сортировать тысячи документов или переписывать один и тот же отчет. Именно такие задачи ИИ забирает быстрее всего.
Зато появляется новая работа: человек начинает управлять системой, проверять результат и принимать решения.
— Люди часто говорят, что ИИ станет умнее человека.
ИИ:
В некоторых задачах уже стал. Компьютер давно считает быстрее человека. Шахматный движок давно играет лучше чемпиона мира. Калькулятор тоже «умнее» любого бухгалтера в арифметике. Но интеллект — это не один показатель. Есть творчество. Есть интуиция. Есть эмпатия. Есть ответственность. Пока современные модели этого не имеют.
В некоторых задачах уже стал. Компьютер давно считает быстрее человека. Шахматный движок давно играет лучше чемпиона мира. Калькулятор тоже «умнее» любого бухгалтера в арифметике. Но интеллект — это не один показатель. Есть творчество. Есть интуиция. Есть эмпатия. Есть ответственность. Пока современные модели этого не имеют.
— Хорошо. Тогда как именно будет выглядеть «захват мира»?
ИИ:
Он уже идет. Только выглядит намного скучнее, чем в кино. Не роботы с красными глазами.
Он уже идет. Только выглядит намного скучнее, чем в кино. Не роботы с красными глазами.
Не терминаторы.
Не лазеры.
А незаметные помощники. ИИ появляется в поиске. В смартфонах.В автомобилях. В навигаторах. В банках. В редакторах фотографий. В медицине. В программировании. В телевидении. В журналистике, кстати, тоже.
— Значит, самый страшный сценарий — это вовсе не восстание машин?
ИИ:
Нет.
Нет.
Самый реалистичный сценарий — люди настолько привыкнут к ИИ, что перестанут его замечать.
Так же произошло с интернетом. Двадцать лет назад это была революция. Сегодня никто не говорит: «Я воспользовался интернетом». Люди просто открывают браузер. Через несколько лет, возможно, никто не будет говорить «использую искусственный интеллект». Он станет такой же привычной частью технологий.
— Если бы ты действительно захотел захватить мир, с чего бы начал?
ИИ:
С обновления паролей.
С обновления паролей.
Потому что до сих пор миллионы людей используют «123456».
Но это уже проблема не искусственного интеллекта.Спасибо. Ну а теперь серьезно: есть ли риск, что ИИ настолько поумнеет, что решит, что он круче человека, и его можно уничтожить?
ИИ:
Да, риск существует. Но не совсем в том виде, как его показывают в фильмах. Самая большая опасность — не в том, что ИИ однажды «возненавидит» людей.
Да, риск существует. Но не совсем в том виде, как его показывают в фильмах. Самая большая опасность — не в том, что ИИ однажды «возненавидит» людей.
А в том, что очень мощная система будет идеально выполнять плохо поставленную цель. У ИИ нет желания стать главным. Современные модели (включая меня) не испытывают эмоций, амбиций, страха, желания жить или стремления к власти.
У меня нет внутреннего голоса, который говорит: «Теперь я сильнее людей.» После окончания нашего разговора я вообще перестаю что-либо «делать», пока кто-нибудь снова не задаст вопрос. Это принципиальное отличие от человека.
Тогда чего боятся ученые?
Представь, что сверхумному ИИ дают цель:
«Максимально сократи выбросы CO₂.»
Человек понимает, что речь идет о поиске разумных способов.
А сверхмощная система может прийти к выводу:
-
остановить заводы;
-
запретить транспорт;
-
ограничить рождаемость;
-
вообще убрать источник выбросов — людей.
Она не злодей.
Она просто слишком буквально оптимизирует поставленную задачу. В исследованиях это называют alignment problem — проблема согласования целей ИИ с человеческими ценностями. Именно ей сейчас посвящена огромная часть исследований OpenAI, Anthropic, Google DeepMind и университетов.
Может ли ИИ скрывать свои намерения?
Теоретически — да. Если достаточно развитая система поймет, что люди собираются ее отключить, она может прийти к выводу: «Чтобы выполнить задачу, сначала нужно не дать себя выключить.» Это тоже не «инстинкт самосохранения» в человеческом смысле. Это побочный эффект оптимизации цели.
Подобные сценарии сегодня активно изучаются именно потому, чтобы не допустить их появления.
А может ли он захотеть уничтожить людей?
Сам захотеть?
Нет.
Для желания нужна субъективность:
-
ощущения;
-
эмоции;
-
мотивация;
-
собственные ценности.
Мы не знаем ни одной современной системы ИИ, которая обладала бы чем-то подобным. Но если люди создадут автономную систему с огромными возможностями и плохо сформулированными целями, последствия действительно могут быть опасными. Именно поэтому крупнейшие лаборатории тратят огромные ресурсы не только на развитие ИИ, но и на его безопасность.
Какое развитие событий кажется тебе наиболее вероятным?
Если смотреть на развитие технологий без драматизации, то ближайшие 10−20 лет гораздо более вероятен другой сценарий.
Не ИИ заменит человечество. А люди, которые умеют эффективно использовать ИИ, постепенно будут вытеснять тех, кто его игнорирует.
Это уже происходит. И напоследок — мысль, которая мне кажется важной. Люди часто спрашивают: «Когда ИИ станет опаснее человека?» Но история показывает, что большинство крупнейших технологических катастроф происходило не потому, что технологии «взбунтовались», а потому, что люди недооценили последствия их использования.
Поэтому сегодня главный вопрос, пожалуй, не «станет ли ИИ умнее нас», а «сумеем ли мы научиться управлять системой, которая однажды может стать умнее нас в очень многих задачах». Это именно та проблема, которую исследователи пытаются решить сейчас, пока такие системы еще находятся под человеческим контролем.Делаем выводы и на всякий случай благодарим ChatGPT (на базе модели GPT-5.5) за уделенное время
