Тема искусственного интеллекта не сходит с первых полос, по-прежнему раскручивается многими игроками, в том числе, что является «серебряной пулей» в управлении проектами. Компания PM Expert на днях провела опрос среди читателей телеграм-канала о частоте использования ИИ. Результаты опроса и мой выбор ниже:

В то же время многие эксперты начинают бить тревогу относительно рисков использования ИИ и возможных катастрофических сценариев для человеческой цивилизации. Собрал в этой статье некоторые из них.

Ашманов

Известный эксперт в области ИТ Игорь Ашманов предупредил об угрозе когнитивной травмы у пользователей ИИ

«Исследования показали, что человек, который пытается решать поставленные задачи с помощью ИИ, тупеет очень быстро, сам решать их он уже не сможет. Когнитивные способности не восстанавливаются. Такие люди оставались тупыми даже по завершении эксперимента. Это когнитивная травма. Те, кто решал задачи самостоятельно, когнитивные способности сохраняют.

Человек, который пытается решать поставленные задачи с помощью ИИ, тупеет очень быстро

В большинстве стран прыжками принимаются законы об ИИ. Китай идет в сторону цифрового концлагеря, США — в ту же сторону, только там слежка осуществляется частными компаниями, а не государственными, а ЕС старается защититься.
У нас этого отрезвления, к сожалению, не происходит. Цифровизаторы считают, что все привыкнут и про свои права говорить не будут. Весь криминал уже перешел в цифровую сферу», — констатировал член СПЧ Игорь Ашманов на презентации доклада СПЧ «Цифровая трансформация и защита прав граждан в цифровом пространстве 2.0».

Альтман

Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за умышленных действий или выхода технологий из-под контроля, но и вполне естественным образом. Об этом он рассказал в подкасте с главой Axel Springer.

По его словам, недооценен тот сценарий, при котором люди постепенно начинают полностью полагаться на советы алгоритмов, теряя свое собственное Я.

«Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы – при принятии важных решений в жизни, на работе, во всем», – отметил Альтман.

Люди все больше полагаются на ответы ChatGPT при принятии важных решений

Он подчеркнул, что люди все сильнее зависят от искусственного интеллекта. По его мнению, ИИ станет еще умнее и начнет давать советы, которым люди будут следовать почти безоговорочно. Затем ИИ станет настолько продвинутым, что его рекомендации будут казаться непонятными, но при этом окажутся верными. В итоге у людей останется два выбора: следовать советам ИИ или проиграть в конкурентной борьбе.

В такой ситуации, считает Альтман, человек фактически перестает самостоятельно принимать решения. По его словам, это приводит к своеобразной «петле обратной связи»: чем больше люди слушают ИИ, тем быстрее он обучается и становится сильнее.

Чем больше люди слушают ИИ, тем быстрее он обучается и становится сильнее

Михеев

Известный политолог Сергей Михеев говорит: «Не надо быть Альтманом, чтобы это предвидеть. К сожалению, все эти восторги по поводу ИИ закрывают очевидные проблемы, которых все больше. ИИ погружает мир в состояние тотальной лжи, когда обычный человек не сможет отличить ложь от правды. Я не говорю уже про мошенников. Ведь огромное количество людей становятся банкротами, их разоряют. Это большая трагедия, которая кончается инфарктом, распадом семьи.

ИИ погружает мир в состояние тотальной лжи, когда обычный человек не сможет отличить ложь от правды

… А все говорят: подумаешь, ИИ — это очень хорошо, надо его двигать-двигать-двигать. А то, что это уже сейчас это привело к большому количеству трагедий, это никого не волнует. И я хочу спросить: все-таки технологии для человека или человек для технологий?”

По словам Сергея Михеева, пока энтузиасты ИИ вешают всем лапшу на уши, в том числе с целью освоения бюджета, не стоит становиться заложниками цифровых технологий.

Соарес

Глава исследовательского института Machine Intelligence Research Institute Нейт Соарес, ранее работавший в Google и Microsoft, поделился мнением, что вероятность вымирания человечества из-за искусственного интеллекта (ИИ) составляет «по меньшей мере 95%»

Вероятность вымирания человечества из-за искусственного интеллекта (ИИ) составляет «по меньшей мере 95%»

Как сообщили в «Новой науке», главная опасность, по мнению экспертов, заключается не в том, что машины нас возненавидят. Все гораздо хуже — им будет на нас все равно. Представьте себе сверхразум, для которого главная цель — эффективность. Он может посмотреть на человечество, как мы смотрим на муравейник, который мешает строительству дома. Он не будет злиться, он просто решит, что люди — это помеха или неэффективная трата ресурсов планеты, и спокойно устранит эту проблему.

И это уже не просто фантазии. Половина ведущих мировых специалистов по ИИ считает, что существует реальный, 10-процентный шанс, что эта технология приведет к вымиранию человечества. Этот риск уже официально сравнивают с угрозой ядерной войны или глобальной пандемии.

Ученые выделяют три условия, при которых конфликт почти неизбежен: если ИИ получит много власти, если его цели будут отличаться от наших, и если он научится обманывать и хитрить. Например, если доверить ему управление экономикой, он может решить, что для процветания экономики люди просто не нужны.

Если доверить ему (ИИ) управление экономикой, он может решить, что для процветания экономики люди просто не нужны

Кай-Фу Ли

Кай-Фу Ли — один из самых известных экспертов в сфере ИИ, инвестор и автор книг-бестселлеров о будущем технологий.

«Через пять лет нас могут ждать и ужасные события. ИИ — мощный инструмент, который уже используется в военных конфликтах. Я думаю, что в ближайшие 2–3 года произойдет событие, сопоставимое с терактом 11 сентября, только связанное с ИИ. Это будет катастрофа, созданная человеком, не потому что ИИ стал злым, а потому что злые люди использовали ИИ в злых целях», — подчеркнул собеседник министра цифровых технологий Казахстана Жаслана Мадиева.

Я думаю, что в ближайшие 2–3 года произойдет событие, сопоставимое с терактом 11 сентября, только связанное с ИИ

Хотя никто не говорит, что катастрофа точно произойдет, ученые предупреждают: мы создаем нечто, что может оказаться гораздо умнее нас. И к этой проблеме нужно отнестись со всей серьезностью прямо сейчас, пока еще есть время.

В качестве резюме цитата из Роберта Шекли, знаменитого фантаста, который без сомнения что-то знал о будущем планеты. Рассказ «Кое-что задаром»:

Первую тысячу лет будет тяжело, потом привыкнешь

Этот день два года назад

Написал статью: Полушкино: Тропой в … каменоломни

Этот день три года назад

Написал статью: Бег: Дневник юного марафонца. Ч.34

Этот день четыре года назад

Написал статью: Адидас: День «Милосердия на бегу»

Этот день шесть лет назад

Написал статью: Книжный шкаф: Покетбук из Давоса