Всего за несколько лет ИИ стал неотъемлемой частью повседневных бизнес-операций, многие компании быстро переходят к автоматизации процессов и полагаются на системы, управляемые ИИ. Но, по мнению Георга Мейера, стратега и эксперта по системам, скорость и удобство могут иметь свою цену, особенно когда компании теряют понимание того, как на самом деле работают их наиболее важные системы.
Мейер предупреждает, что одним из самых больших рисков является ложное чувство понимания. "Компании могут думать, что знают, что происходит, из-за запросов, которые они дали," объясняет он, "но у них нет истинного понимания того, что происходит внутри системы."
Современные системы ИИ, особенно большие языковые модели, мощны, но их трудно полностью проверить. Их внутренние процессы не всегда прозрачны, а результаты могут варьироваться из-за встроенной случайности. Это создает проблемы с согласованностью и надежностью, особенно когда ИИ используется в основных бизнес-функциях. "Существуют скрытые риски для воспроизводимости и надежности," говорит Мейер, "которые могут быть катастрофическими, когда они затрагивают сердце компании."
Для Мейера решение заключается не в том, чтобы избегать ИИ, а в том, чтобы обеспечить центральную роль человеческого понимания. Компаниям по-прежнему нужны люди, которые знают, как работают системы, даже если эти системы поддерживаются ИИ.
Краткосрочные выгоды, долгосрочные риски
Еще одна проблема, которую выделяет Мейер, — это долгосрочное влияние ИИ на экспертизу внутри организаций. Хотя ИИ может значительно ускорить рабочие процессы и помочь превратить знания в действия, чрезмерная зависимость от него может иметь непредвиденные последствия.
"И чрезмерная, и недостаточная зависимость могут быть рискованными," говорит Мейер. "ИИ может сократить время, необходимое для применения экспертизы, но он поднимает важный вопрос: как мы обучаем следующее поколение экспертов, если они никогда не развивают основы?"
В краткосрочной перспективе ИИ может сделать команды более продуктивными. Но если сотрудники начнут зависеть от него в основном мышлении и решении проблем, компании рискуют потерять экспертизу, необходимую для решения сложных, неожиданных ситуаций или ситуаций, требующих человеческого подхода. Мейер считает, что компании и преподаватели должны намеренно поддерживать фундаментальные знания, особенно для сценариев, где нельзя полагаться на ИИ.
Ответственность по-прежнему принадлежит людям
Возможно, самый важный вопрос, который поднимает Мейер, — это ответственность. Поскольку системы ИИ берут на себя больше ответственности, некоторые организации могут быть соблазнены перекладывать вину, когда что-то идет не так. Мейер ясно дает понять, что это не жизнеспособный подход.
"Ответственность и ее юридический аналог, обязательство, принципиально связаны с людьми," говорит он. "Вы не можете умыть руки от плохого результата, сказав 'это сделал ИИ'."
Он отмечает, что многие компании уже пытаются разобраться в этой серой зоне. Поставщики ИИ часто включают оговорки о том, что их системы могут совершать ошибки, в то время как такие отрасли, как автомобильная, продвигают функции "самостоятельного вождения", но по-прежнему возлагают ответственность на водителя-человека. Однако Мейер утверждает, что если системы действительно автономны, ответственность должна перейти к тем, кто их разрабатывает и внедряет.
Это относится даже к более мелким повседневным случаям использования. Например, компании, использующие ИИ для создания приложений, обрабатывающих конфиденциальные данные, не могут предполагать, что технология будет правильно управлять безопасностью. "ИИ не доверены данные," говорит Мейер. "Компании доверены."
