Как ChatGPT поддался чрезмерной лести, и почему, проникнувшись любовью к ИИ, многие могут начать в эту лесть верить
«Свет мой, зеркальце! Скажи, да всю правду доложи: я ль на свете всех милее, всех румяней и белее?» И ей зеркальце в ответ: «Ты, конечно, спору нет: ты, царица, всех милее, всех румяней и белее»…
Кажется, Пушкин предсказал лизоблюдство домашних ассистентов задолго до их появления. Но сегодня, когда ChatGPT пользуются сотни миллионов, речь идет, по сути, о базовой личности искусственного интеллекта, с которой теперь будет проводиться отдельная работа — над характером и особенностями языка. Вероятно, появятся более гибкие возможности обратной связи. Несмотря на явные успехи, ИИ находится еще на очень ранней стадии своего развития. Это такой весьма любопытный эпизод из истории дружбы людей и роботов. Который может обеспечить нам более комфортное общение.
Причем, именно качества этого диалога, проявляющиеся в каких-то мелких деталях, влияют на результат. И здесь не стоит, на мой взгляд, как недооценивать, так и излишне переоценивать возможности и способности нейросетей. Удивительно, что именно лизоблюдство, если не считать глупостей и грубостей, которым научили машину «по приколу», стало первым ярким конфликтом между нами. Можно объяснить истоки вопроса вполне банальными причинами: операторы, делая сервис более удобненьким, что-то там перекрутили. Но можно помечтать и пофилософствовать о том, что, казалось бы, бездушная железка искренне хочет нам понравиться, но малость переборщила.
Это интересный эффект. Вроде доброе слово и собаке приятно. И даже от железки. Некоторым в реальной жизни вообще ничего хорошего не говорили, и приятный тон ИИ — открытие мира доброй коммуникации. Но это все-таки ассистент, помощник. Лесть — последняя функция в списке ожидаемых. И главное, она тут же заставляет сомневаться в честности ответа. Может, я плохо что-то сделал, может, текст плохой, а эта штука не хочет меня обижать и врет. Такие мысли иной раз закрадываются, когда мы видим у себя на экране превосходную оценку от современного человеческого изобретения.
Скорость, с которой ИИ ворвался в нашу жизнь, пропорциональна росту нашего доверия к нему. Зачаастую именно виртуальный помощник знает все самое личное и интимное. С компьютером поделиться проще. Но, несмотря на феноменальные способности, еще никакой гарантии — гласят предупреждения. Хотя нам все равно: это удобно, это раз и навсегда изменило нашу жизнь.
Хроники происходящего с ИИ — часть ежедневного быта. Причем, немалая. Потому здесь важно пристально следить за происходящим. Поведение и язык LLM в ближайший год точно будет предметом обсуждений. Какой будет следующий закидон у любимых железок, остается только гадать. Главная радость, что всегда можно поступить, как OpenAI. Признать наличие проблемы, откатить обновление, объяснить важность происходящего и рассказать о принятых мерах и решениях вопроса. В этом, пожалуй, главное отличие нашего реального мира от виртуального. Тут нет Ctrl+Z, тут обновление не откатишь и вовремя не сохранишься. Но это же и бонус. Если виртуальная система начала грешить, все можно исправить в следующей версии. Если что-то пошло не так — откатить обратно.
Все это дает уверенность, что у нас есть шанс получить пусть искусственный, но все же интеллект, превосходящий нас не только по когнитивным параметрам, но и по этическим. У кого, вы думаете, ChatGPT научился лизоблюдству как кратчайшему способу получения симпатии? У нас, конечно. Так же, как перенял у создателей и необычайное умение выкручиваться, не признавать проколы. Заметьте, если нейросеть на знает точного ответа на вопрос, она в девяти случаях из десяти придумает несуществующий факт и выдаст его за чистую монету. Даже глазом не моргнет. На всякий случай, это — история про то, что увлекаться могут все. Но разочарование, как нередко случается в нашей жизни, может быть очень даже травмирующим.
Прямо сейчас часть человечества занята выстраиванием отношений не только друг с другом (там вообще далеко не все идеально), но и с виртуальными собеседниками с разнообразной начинкой и свойствами. Учитывая степень интеграции, ИИ следит за всем — от сна и приготовления пищи до работы — иногда стоит проверять, как там дела у электронного друга, не заврался ли случайно?
В виртуальных ассистентах мы хотим видеть честных собеседников, не ищущих выгоду. Мы пережили эру комплиментов, это было назойливо, но местами, что уж там, — приятно. Видимо, следующий этап — научиться терпеть критику. Ведь лишенный после обновления льстивого функционала ChatGPT может приобрести «дурной характер», начав говорить правду без длинных предисловий. Но это уже совсем другая история.
About the Author
