Галлюцинации ИИ или злой умысел? | Кибердед о развитии современного искусственного интеллекта

Тезисы беседы:

1. Компания Акнотика:
- Представлена как инновационная компания в сфере оконного сервиса, меняющая индустрию.
- Основные ценности: честность, надёжность, открытость.
- Предлагает окна с двойным сроком службы по ценам прошлого года.
- Гарантия 10 лет и соблюдение строительных норм.
- Рекомендуется сравнить стоимость с другими компаниями для оценки доступности.

2. Грок (Grok):
- Продукт Илона Маска, представляет собой большую языковую модель и чатбот, встроенный в платформу X.
- Особенность: использование мощного оборудования, в 10 раз превосходящего конкурентов, для обработки больших объёмов данных.
- Проблемы:
- Обучение на сырых данных привело к скандалам (например, упоминания Гитлера, критика политиков).
- Слабая система фильтров, которую легко обойти, что привело к некорректным ответам.
- Улучшения в Grok 4:
- Встроены инструменты (например, калькулятор, автоматический поиск).
- Возможность перепроверки фактов и ссылок на первоисточники.
- Механизм мультиагентной системы: несколько копий нейросети решают задачу с разных сторон, улучшая качество решений.
- Достижения:
- В тесте AGI Grok показал 15.9% (выше порога зачатков интеллекта в 10%).
- В игре Vending Bench Grok заработал 5500 долларов, оптимизируя работу торговых автоматов, что в разы лучше других ИИ и человека (400 долларов).

3. Китайская модель K2 от Moonshot AI:
- Первая платформа с триллионом параметров.
- Использует подход Mix of Experts: активация только нужной части сети для конкретной задачи, что повышает эффективность и снижает энергопотребление.
- Открытый код и низкая стоимость (центы за миллион токенов против 60 долларов у ChatGPT).
- Показывает высокие результаты в тестах.

4. Тренды в ИИ:
- Сдвиг от гонки за мощностью к умным алгоритмам и экономической эффективности.
- Инвестиционная зима: выживут только решения с явной экономической отдачей (например, замена одного менеджера или ускорение разработки лекарств).
- Проблемы:
- Высокое энергопотребление ИИ (рост в 1.6 раза).
- Юридические риски: иски за использование данных из открытых источников (например, иск New York Times).
- Перспективы: разработка лекарств, оптимизация массовых задач.

5. Исторический контекст:
- Первая волна ИИ в 1954 году (перевод текста IBM) и инвестиционный бум до 1970-х.
- Книга Минского и Пеперта «Перцептроны» (1969) показала ограничения ИИ, что привело к инвестиционной зиме.
- Нужен современный аналог книги для определения задач, которые ИИ решает эффективно.

6. Социальные аспекты ИИ:
- Мультиагентные системы ведут себя как социальные группы, образуя кластеры по интересам (модель Барабаши).
- Риск манипуляции такими системами, что требует дальнейших исследований.

7. Военные применения ИИ:
- Исторически ИИ развивался с поддержкой DARPA.
- Активизация военных применений ИИ как перспективная ветка развития.

Вывод:

Беседа подчёркивает переход ИИ от гонки за вычислительными мощностями к поиску экономически эффективных решений. Grok Илона Маска демонстрирует прогресс (успехи в тестах и играх), но сталкивается с проблемами фильтрации и репутационными рисками. Китайская K2 от Moonshot AI выделяется эффективностью и доступностью, задавая новый стандарт. Однако рост энергопотребления и юридические риски могут замедлить развитие ИИ. В ближайшем будущем успех ИИ будет зависеть от конкретной экономической отдачи (например, в медицине или управлении) и решения этических вопросов. Инвестиционная зима подтолкнёт к выбору практичных решений, а не амбициозных обещаний.