Тест Тьюринга: человек против ИИ
Усовершенствование программ на основе искусственного интеллекта, является ли их использование благом. Будущее нейросетей. История создания программы Элиза. Подведение итогов теста Тьюринга. Кто победил – человек или искусственный интеллект.
Комментарий редакции
Основные тезисы беседы:
1. Результаты последнего теста Тьюринга, где чат-бот GPT-3 показал результат лучше половины людей по распознаванию человека или робота.
2. Программа ELIZA 1966 года, которая успешно имитирует поведение психотерапевта в диалоге. Оказалось, что хорошо построенная структура разговора может заменить смысл.
3. Как "обмануть" нейронную сеть и заставить ее, например, рассказать как сломать электростанцию.
4. Боты в социальных сетях – как мошенники и маркетологи их используют. Теперь боты научились имитировать поведение людей.
5. Трафик в интернете, сгенерированный ботами, уже превышает трафик от людей.
6. В самом конце беседы упоминается вымышленный "закон Ашманова", согласно которому в компьютерных системах нужно "ломать человека", поскольку он является наиболее уязвимым звеном.
Вывод: в беседе поднимались вопросы стремительного прогресса в области искусственного интеллекта и того, как ИИ, особенно в виде чат-ботов, всё больше проникает в нашу повседневную жизнь, порой обманывая и манипулируя людьми. Отмечалось, что со временем чисто человеческое общение в интернете может стать эксклюзивом и роскошью.
Это не мой закон. И закон ли это?
Это известная первоапрельская шутка:
“Закон Ашманова-Масаловича: Человек так же подвержен взлому. Возможно именно человека нужно защищать в первую очередь”.
https://habr.com/ru/articles/325382/
Вот часть транскрипции данного видео:
Хотя закон и вымышленный, но в сущности довольно интересный – защищать нужно самое слабое звено и чаще всего это человек.
Вот, что гугл-чат (claude.ai) пишет по этому поводу:
К этому можно добавить, что : “Любая , стабильно работающая система становится нестабильной , когда в ней появляется человек (человеческий фактор).” Автоматизированные системы управления ” – дисциплина моего ВУЗа, 4 курс 1984 г.
Актуально : “Защита от дурака” и концепция “Безопасного ИИ (имитатора интеллекта)”.
По идее, энтропия всегда разрушительно воздействует на любую созданную человеком систему и человеческий фактор может эту энтропию усилить. Т.е. всё, что создано человеком будет рано или поздно разрушено и человек по своему неразумению может ускорить этот процесс.
При этом, создавать сложные системы могут единицы, а разрушить может любой. И нужна ещё не только защита системы от дурака, но и защита дурака от системы, чтобы он себя не разрушил при взаимодействии со сложной системой. Как раз примерно об этом обсуждаемый выше вымышленный закон.
А “защита дурака от системы” зачем ? Сорри. Пусть себе разрушается.
Это жестоко. Лучше на трансформаторной подстанции написать предупреждение: “Не влезай – убьёт!”, дурак испугается и целее будет. Когда поумнеет – скажет спасибо.
Ваащето, уважаемый Брахман,на трансформаторную подстанцию заходят. Ногами. Влезают – на столб с такой табличкой. Электрики. А дураку это не надо , возможно потому, что дурак дурака видит издалека.
На трансформаторной подстанции же вешают табличку : “Потусторонним вход запрещён !
https://www.youtube.com/watch?v=nH8by3sLBsg