
Это не первый и, вероятно, не последний случай, когда современные технологии вместо пользы приносят людям неприятности.
«Умная» система дозирования хлора, призванная прекращать подачу обеззараживающего вещества в воду, когда норма его содержания достигает определенного показателя, подавала сигнал об этом через электронную почту. По причине сбоя в работе сервисов Microsoft тревожная информация не дошла до адресата. В результате посетители бассейна стали жаловаться на раздражение в дыхательных путях и боли в горле. Четырех человек доставили в больницу, остальным оказали помощь на месте. Расследованием занимаются компетентные органы.
Жизни 346 человек унесли две авиакатастрофы самолетов Boeing в 2018 и 2019 годах. Это, пожалуй, самые громкие инциденты в современной гражданской авиации. Причина трагедии заключалась в некорректной работе системы безопасности полета. Она заставляла многотонную махину опускать нос вниз, пилоты не смогли перейти на ручное управление. Как выяснилось позже, многие экипажи даже не знали о существовании системы, направленной на борьбу с аэродинамическими особенностями техники, авиакомпания не хотела тратить время и деньги на переобучение работников.
Зачастую люди сами «помогают» технологиям «ошибаться». Жертвами передозировки на канадском аппарате Therac-25 в 1985 – 1987 годы стали сразу шесть пациентов. Они проходили лучевую терапию и надеялись на излечение от рака, но получили серьезные ожоги радиацией, приведшие спустя некоторое время к смерти. Фатальную ошибку допустил опытный работник, включив максимальную мощность излучения вместо безопасного режима. Специалисты сошлись на мнении, что именно опыт сыграл с ним злую шутку.
Современный человек настолько зависим от программного обеспечения, что даже небольшая погрешность в работе последнего способна парализовать многие сферы жизни. Глобальный сбой системы кибербезопасности CrowdStrike в 2024 году вызвал выход из строя 8,5 миллиона компьютеров с Windows по всему миру. В результате были отменены тысячи авиарейсов, остановилась работа банков, больниц и телеканалов.
Это лишь единичные примеры, как ошибки в проектировании систем, человеческий фактор и слепая вера в автоматизацию могу привести к печальным последствиям. Это вовсе не значит, что нужно полностью отказаться от использования современных технологий. Они должны находиться на вооружении у человека – венца эволюции, а не подменять собой живой ум и интеллект.
