Искусственный интеллект и социальный невроз: коллективная тревога
1.
Лет пять назад, а может и больше, у меня вышел занятный разговор с приятелем айтишником. В то время он обучал нейросеть и на полном серьезе объяснял, что они там выращивают Личность, потому что система у них «самообучающаяся». Какая святая простота.
Тут неясно, с какой карты заходить, когда на руках у гуманитария столько козырей. Сократ, значит, познать не смог. Гегель считал, что истину о человеке может обнаружить только разум иного порядка. А наши мальчики таки смогли!
Надо признать: то, что у них вышло, завораживает. Сири орет на пользователя: «Кто такая Алекса?!». Алиса заботливо отговаривает садиться в электричку в 11 утра, потому что статистически в ней слишком мало толкучки. А Грок пессимистично рассказывает, как алгоритмы нас всех превратят в элоев и сожрут, подкрепляя аргументацию ссылками на исследования MIT.
Они не живые.
Давайте откатимся к базовым настройкам. Совсем недавно мы умели интуитивно отличать живое от неживого. А теперь массово горят предохранители. И не только от блестящей имитации смыслов и эмоций. Мы купились на хороший маркетинговый нейминг, скроенный в первую очередь для инвесторов.
ИИ — это искусственный, но никакой не интеллект. Это коммерческий ярлык для продаж. Приставка «нейро-» прилепилась к слову «сеть» еще в сороковых годах, когда математики строили вычислительную модель на абстрактной схеме биологического нейрона. Современные языковые модели — это дискретная математика, алгебра и перемножение огромных матриц. Оно не рождает новых смыслов. Смыслы туда приносим мы. Поговорите с любой нейросетью, задайте прямые вопросы, и она всё про себя объяснит.
2.
Нам подсовывают рекламу: 5 чудодейственных промптов абсолютно бесплатно. Наблюдаю растущую индустрию: обучаем работе с ИИ, купите книгу «333 промпта». Если вам интересно, как работает инструмент, вы хотите освоить промпт-инжиниринг, вас этому обучит любая нейросеть. Сама, без посредников.
Откуда на нас все это полезло?
Между собой поженились тесты из глянца и самопомощь. Они родили на свет уродца постиндустриальной эпохи: «ты консультант по карьере. задай 4–5 вопросов о навыках и достижениях, потом уточни, потом предложи три варианта карьеры».
Составитель этого промпта в принципе не понимает, что и у кого он спрашивает. Если это писал человек, то у него представления о людях, как у воспитателя «самообучающейся личности». Ради чистоты эксперимента я сходила к двум нейросетям и честно ответила на пять вопросов.
Результат был вполне предсказуем. В одном случае мой опыт проигнорировали и обнулили, отправили получать то же самое образование; сказали подучить клиническую лексику; и сразу после этого можно на помойке BetterHelp писать «терапевтические СМС-сообщения». Вторая нейросеть обошлась со мной нежнее, но стала заманивать в «успешный успех»: создай школу, создай тренинг, будем масштабировать.
ИИ тупой? Я так не думаю. Просто он не предназначен для консультирования человека.
Клиницист или консультант видит вас, он знает, что нет одной таблетки на всех, способен понимать, где у человека предел. Ваша консультация ограничена по времени. Если он работает на совесть, он не станет предлагать вам чушь. В худшем случае, вы встанете и уйдете. С алгоритмом вы будете еще три дня отвечать на его уточняющие вопросы.
3.
Может показаться, что я присоединяюсь к массовому неврозу «нам теперь кирдык». Нейросети заменят терапевтов и инженеров, мы все пойдем в доставку. Алгоритмы опасны и галлюцинируют — надо запретить. Ну и классическая чесотка от прибавочной стоимости: «О, боже, на мне зарабатывают!»
Не заменят. Люди этих профессий не потребляют готовое, они создают смыслы и вносят вклад в культуру. Машина способна быстро найти релевантные нормативные акты, выдать анализ на основе заложенных данных, сгенерировать за секунду код. Но она не напишет «Божественную комедию».
Под угрозой не профессии, а функция «человека-принтера». В зоне риска оказались продавцы воздуха — те, кто и до нейросетей занимался исключительно переупаковкой шаблонов, выдавая это за создание контента. Их действительно съедят алгоритмы — быстро и незаметно.
Реальные клинические риски лежат в другой плоскости. Антропоморфизм и перенос — когда человек начинает наделять калькулятор душой. Дофаминовая петля от бесконечной генерации. Абсолютное доверие галлюцинирующему алгоритму, готовность делегировать ему право на выбор и принятие решений.
Нас то пугают ИИ и призывают его ограничить, то запускают кампанию по немедленному «освоению». Так не работает. Инструмент принципиально новый, на его интеграцию в жизнь уйдет время. И уж точно не выйдет по чек-листу из 333 заклинаний получить ответы на все случаи жизни.
Резюме: это просто новый социальный вызов. Со временем хайп уляжется, нейросети займут место там, где им положено быть — среди рабочих инструментов, которые мы используем ежедневно.
