Смертельные баги и программы-убийцы | Андрей Масалович
Краткое описание ролика:
- как из-за ошибки в коде более 900 человек получили судимость
- самопроизвольное ускорение в Toyota, ошибки в коде Tesla, из-за которых погибли люди
- Краш-тесты стоимостью в миллионы долларов по вине программистов
И многое другое
Клуб Кибердеда
https://t.me/deedcoin_club
Ведущая эфира – Александра Троцкая. Гость эфира – Андрей Игоревич Масалович, он же Кибердед – подполковник КГБ в отставке, эксперт в области информационной и кибербезопасности.
Комментарий редакции
Основные тезисы лекции:
1. В Великобритании из-за ошибки в программном обеспечении почтовой службы более 900 почтальонов были ошибочно обвинены в хищениях, 236 из них получили тюремные сроки.
2. Проблема была вызвана систематическим глюком в специально разработанной японской компанией Fujitsu программе, которая накапливала недостачу в финансовых показателях.
3. Ошибка не исправлялась 25 лет, несмотря на то, что Fujitsu рано осознала проблему.
4. Приводятся другие примеры программных ошибок с серьезными последствиями:
– Сбой в системе досрочного освобождения заключенных в тюрьме Мичигана.
– Проблемы с автопилотом Boeing 737 MAX, приведшие к двум авиакатастрофам.
– Инцидент с крейсером "Йорктаун" из-за деления на ноль.
– Проблемы с автопилотом израильского истребителя при полете над Мертвым морем.
5. Обсуждаются проблемы создания "доверенной среды" для искусственного интеллекта и сложности в обеспечении надежности нейронных сетей.
6. Рассказывается случай повреждения дорогостоящего метеорологического спутника NOAA N-Prime из-за человеческой ошибки.
7. Отмечается тенденция выпуска "сырого" программного обеспечения ради удобства и быстрого выхода на рынок, что приводит к появлению ошибок.
Вывод:
Лекция подчеркивает серьезность последствий программных ошибок и человеческого фактора в различных сферах – от почтовых служб до космических технологий. Лектор указывает на необходимость более тщательного тестирования и проверки систем, особенно тех, от которых зависят жизни людей или значительные финансовые ресурсы. Также поднимается вопрос о сложностях обеспечения надежности систем искусственного интеллекта и о тенденции быстрого выпуска недостаточно проверенного программного обеспечения, что может привести к серьезным проблемам в будущем.