Локализация лабораторной аварии

Представь себе, что большой прорыв ChatGPT в ноябре 2022 года на самом деле не был запланирован. OpenAI просто хотела провести тестовый запуск версии 3.5, а не представлять официальный продукт. Что действительно удивило разработчиков, так это то, что система стала настолько популярной так быстро, что внезапно все крупные технологические компании отказались от своей сдержанности. До этого момента основными требованиями считались осторожность, этичность и технологическая зрелость. Но после этой «лабораторной аварии», как она называется в тексте, речь шла только о том, чтобы захватить следующую крупную бизнес-модель, даже если это означало продажу технологии в качестве массового продукта без должной подготовки. Миллиарды, вложенные в ИИ, настоятельно требовали «блокбастера» любой ценой. Даже мысль о том, что ИИ вскоре сможет лечить рак или решить проблему изменения климата, стала коммерческим аргументом, а если этого недостаточно, то просто развлечением для взрослых. Что действительно удивительно, так это то, что после семидесяти лет исследований в области ИИ мы впервые сталкиваемся с языковыми моделями, способными общаться с нами напрямую. Раньше ИИ был шахматным гроссмейстером или экспертной системой для постановки диагнозов. Сегодня вы разговариваете с машиной, и это одновременно и увлекательно, и тревожно. Внезапно все, а не только ИТ-специалисты, могут поговорить с ИИ, и возникает ожидание, что организации наконец станут более продуктивными, эффективными и автоматизированными. Но вот в чем загвоздка: этот новый ИИ совсем не надежен. Компании и административные органы быстро понимают, что не могут полагаться на ответы языковых моделей. Машины иногда просто болтают, вместо того чтобы давать точные ответы. И не потому, что они плохо работают, а потому, что они именно так и устроены: они создают правдоподобные тексты, которые, однако, представляют собой лишь смесь вероятности и случайности. Самое смешное в этом то, что ИИ ненадежен именно тогда, когда он работает технически безупречно. Это настоящая ошибка мышления: мы ожидаем от машин надежности, но этот ИИ ее нам не дает. Компании привыкли работать в условиях неопределенности: ошибки сотрудников или поломки оборудования — это повседневная реальность. Но у классических машин всегда есть логическая причина, которую можно устранить. В языковых моделях этой уверенности нет, и в этом заключается принципиальное отличие. Тем не менее мифы об ИИ продолжают распространяться: чат-боты должны избавить нас от бюрократии, автоматически создавать готовые заявки и оптимизировать процессы. Эйфория велика, но недооценивается, сколько мер предосторожности необходимо принять при использовании технологии, которая систематически совершает ошибки и вносит неопределенность в важные процессы. Любой, кто имеет опыт работы в компаниях или административных органах, знает, что облегчение работы обходится дорого, поскольку надежность, как в случае с традиционными машинами, не является сильной стороной этого ИИ. И все же Кремниевая долина любит делать вид, что идеальный ИИ уже не за горами — если мы лишь немного больше инвестируем. О чем почти никто не говорит: вполне возможно, что именно ненадежность ИИ станет ее самым большим «убийцей» продуктивности. Или, наоборот, настоящий прогресс заключается не в совершенствовании машин, а в том, как мы научимся продуктивно справляться с их ошибками. Машины, которые работают идеально, но ненадежны, — вот что действительно ново в этом поколении ИИ. Если сегодня вы доверяете ИИ, то на самом деле доверяете «черному ящику», который звучит правдоподобно, но всегда может ошибаться. Те, кто это понимает, внезапно начинают смотреть на дискуссию об ИИ совершенно другими глазами. Машины, которые работают, но при этом ошибаются, — это лабораторная авария, которую сейчас пытается локализовать весь мир технологий. Машины, которые работают идеально, но остаются ненадежными, — вот новая реальность ИИ. Если вы узнаете себя в этом описании, вы можете использовать Lara Notes с пометкой «I'm In», чтобы показать, что теперь вы разделяете эту точку зрения. А если завтра вы поговорите с кем-нибудь об удивительных слабостях ИИ, отметьте этот разговор в Lara Notes как «Поделиться офлайн», потому что именно такие искренние обсуждения имеют наибольшее значение. Этот текст взят из культурного журнала Merkur, и вы сэкономили почти 10 минут на чтении.