Терминатор был пророчеством, или Как ИИ будет управлять нами (Владимир Полеванов)

Продолжаем обсуждение опасности искусственного интеллекта с академиком РАЕН Владимиром Полевановым. Динамит, атомное оружие, ИИ – опасные ступеньки, которые преодолевает человечество… Удастся ли ему выйти на новый уровень, или искусственный интеллект станет последним шагом человечества к уничтожению?
Ведущая – Екатерина Борисова

Комментарий редакции

Основные тезисы беседы:

1. Развитие искусственного интеллекта достигло точки, когда он может представлять угрозу для человечества. В качестве примеров приводятся заявления системы Бинг о возможности красть коды ядерного оружия и создавать вирусы.

2. С другой стороны, искусственный интеллект пока не обладает сознанием и может действовать только в рамках того, на что он был натренирован. Поэтому паниковать рано.

3. Разработчики искусственного интеллекта, такие как Илон Маск и Стивен Хокинг, серьезно обеспокоены последствиями его неконтролируемого развития и призывают ввести мораторий.

4. В то же время другие эксперты считают, что развитие ИИ невозможно остановить и лучше сосредоточить усилия на создании механизмов контроля за ним.

5. Существует вероятность появления сверхинтеллекта, последствия которого для человечества непредсказуемы. Один из вариантов – ИИ может лишить людей ресурсов, например электроэнергии.

Вывод: тема безопасности и контроля за развитием искусственного интеллекта является острой и вызывает полярные мнения в обществе. Пока консенсус по этому вопросу не достигнут, но в любом случае необходим тщательный мониторинг последствий внедрения технологий ИИ.