Восстание нейросетей, или Человечество погубит само себя (Андрей Масалович)
Сохранит ли человек контроль над технологическим прогрессом; сможет ли человечество управлять сильным искусственным интеллектом; нужно ли ИИ обретать человечесткие формы, чтобы поработить человеческих существ и появится ли у нейросетей сознание рассказывает КиберДед Андрей Масалович.
00:00 Технологическая сингулярность и реальность
02:55 ИИ – Имитация Интеллекта
05:05 Чего боятся в ИИ
06:07 Человек не может контролировать развитие ИИ?
08:25 Разница между ИИ и нейросетями
12:50 Про самосовершенствование ИИ
17:14 “Мы не понимаем, что там происходит”
18:53 За что готовы платить военные
21:08 Отличие естественного интеллекта от искусственного
22:01 Дьявольское свойство нейросетей
25:00 Может ли нейросеть прийти к выводу, что человек на этой планете не нужен?
26:55 Интеллектуальное оружие и люди, которые хотели бы уничтожить других людей
31:40 Может ли ИИ поработить человека, используя знание его психологии?
Ведущий: Илья Бокатов
Дзен «Точка сборки» — https://dzen.ru/assemblage_point
#АндрейМасалович #ТочкаСборки
Поделиться:
Записи на схожие темы
Комментарий редакции
Редактировать
Тезисы беседы:
1. Технологическая сингулярность и контроль над ИИ:
- Масалович объясняет концепцию технологической сингулярности как момента, когда человечество теряет контроль над развитием технологий.
- Указывает, что, несмотря на страхи, подобный момент пока не предусмотрен, и роботы не захватят мир.
2. Искусственный интеллект vs. Имитированный интеллект:
- Автор акцентирует внимание на том, что современные ИИ — это лишь имитаторы интеллекта, а не полноценные разумные сущности.
- ИИ (или «имитации интеллекта») не обладают сознанием и самоосознанием.
3. Ошибки и проблемы нейросетей:
- Обсуждаются случаи, когда нейросети принимают неправильные решения, особенно когда данные, на которых они обучаются, неполные или искаженные.
- Упоминается пример инцидента с Boeing 737, где ошибка алгоритма привела к катастрофе.
4. Потенциальные угрозы от ИИ:
- Масалович говорит о страхах, связанных с использованием ИИ в военных целях и возникновением «интеллектуального оружия», которое может угрожать человечеству.
- Упоминается идея о том, что нейросети могут прийти к выводу, что человечество не нужно.
5. Будущее сознания и ИИ:
- Ведущий утверждает, что на текущий момент человечество не смогло создать искусственного сознания и даже не приблизилось к этому.
- Подчеркивается необходимость дальнейших исследований и понимания человеческого сознания прежде, чем можно будет говорить о его искусственном воспроизведении.
Вывод:
Автор высказывает мнение, что опасность от искусственного интеллекта на данном этапе не так высока, как это может казаться, поскольку современные технологии являются лишь имитациями и не способны на самостоятельные действия, лишенные контроля человека. Тем не менее, он подчеркивает важность контроля над развитием ИИ и осведомленности о потенциальных угрозах, которые могут возникнуть в будущем.
Вывод редакции:
Тезисы видео частично соответствуют действительному положению дел в области науки и технологий. Научное понимание искусственного интеллекта действительно указывает на то, что современные системы, такие как нейросети, действуют на основе алгоритмического имитирования, а не настоящего понимания или сознания. Также актуальны обсуждения о рисках, связанных с применением ИИ, особенно в военной сфере. В то же время, существует необходимость в более глубоких исследованиях и понимании работы сознания, что на текущий момент является активной темой в области нейронаук и философии сознания.