Ловушка «чистого знания»: почему искусственный интеллект не спасет нас от итальянской забастовки
Ловушка чистого знания: почему искусственный интеллект не спасет нас от итальянской забастовки
Профессор кафедры управления персоналом и психологии Финансового университета при Правительстве РФ Александр Сафонов в авторской колонке специально для Суверенной экономики:
Мир охвачен эйфорией. Появилась опасная иллюзия: достаточно загрузить в нейросеть данные, и мы получим чистое знание идеальные бизнес-стратегии, точные экономические прогнозы и готовые регламенты для сотрудников.
Однако этот оптимизм скрывает в себе смертельную угрозу. Если мы полностью переложим мышление на алгоритмы, нас ждет глобальный управленческий коллапс.Главная проблема любого ИИ он всегда смотрит в зеркало заднего вида. Нейросеть учится на массивах данных из прошлого. В тот самый миг, когда информация попала в базу данных, она застыла.
А реальная жизнь это квантовая суперпозиция возможностей. Экономика, рынок и человеческое поведение меняются каждую секунду. Пытаясь управлять живыми процессами с помощью идеальных, но вчерашних инструкций ИИ, мы рискуем устроить техногенную итальянскую забастовку.
Она произошла на железных дорогах Италии, когда машинисты и диспетчеры парализовали движение поездов, начав идеально выполнять правила безопасности. Они проверяли каждый винтик, читали каждую строчку регламента перед отправлением. Если завтра бизнес начнет слепо выполнять идеальные регламенты, которые сгенерировал ИИ, компании мгновенно застрянут в бюрократическом ступоре. Живой поток реальности просто не помещается в мертвые правила.
Информация, которую выдает ИИ, становится полезным знанием только тогда, когда она проходит через человеческий интерфейс верификации через личный опыт, ошибки, сомнения и практику. Например, в 1970-х годах американский автопром с треском проиграл японскому из-за бюрократии. В Детройте правили жесткие менеджеры, которые верили сухим отчетам из кабинетов и бумажным инструкциям. Рядовому рабочему у конвейера запрещалось думать он был лишь винтиком. Он не имел права остановить процесс без одобрения руководства в случае брака.
Пока сигнал о проблеме шел наверх, завод успевал выпустить тысячи бракованных машин. В Toyota поступили наоборот. Они внедрили систему Андон шнур над конвейером. Любой рабочий, заметив дефект, имел право самостоятельно дернуть за шнур и остановить весь завод. Toyota перенесла точку принятия решений на самый нижний уровень туда, где информация была самой свежей. Они доверились живому человеку, а не жесткому расписанию.
Так и в случае с ИИ. Без интерфейса доверия и проверки чистое знание превращается в опасный цифровой шум. Если слепо верить ответам машины, человечество разучится принимать решения в условиях неопределенности. Человек может наизусть выучить мудрый текст, но пока он сам не совершит ошибок на практике, это знание останется для него чужим и бесполезным.
В эпоху ИИ профессиональная подготовка людей должна в корне измениться. Раньше ценились специалисты, которые знают ответы или умеют быстро искать информацию. Сегодня ИИ делает это за секунду. Главной компетенцией будущего становится умение верифицировать чистое знание.
Новая система обучения должна готовить специалистов, которые:
Не верят алгоритмам на слово. Они понимают, где модель ИИ может ошибаться из-за устаревших данных или ложной логики;
Обладают развитым критическим мышлением. Они умеют сопоставлять идеальный цифровой прогноз с хаотичной реальностью здесь и сейчас;
Умеют брать на себя риск. Профессионал должен иметь смелость скорректировать алгоритм ИИ на основе своего живого опыта.
Осознание сложности использования ИИ уже привело к конкретным действиям в сфере создания анти-ИИ инструкций. Европейский закон об ИИ (EU AI Act) и стандарты американского Института NIST (AI RMF) это первые в мире официальные правила, которые запрещают отдавать власть мертвым алгоритмам. Поэтому законы теперь требуют внедрения подхода Human-in-the-Loop (HITL) обязательного присутствия обученного человека в цепочке принятия решений.
#АвторскаяКолонка
Подписывайтесь на Суверенку в MAX.