Снимали недавно видео для YouTube-канала. Нашли для этого живописные скалы в окрестностях, установили камеру. И пока я слушал Вику - вдруг понял, почему современному человеку жизненно необходимо... ругаться с нейросетями (которые часто называют "искусственным интеллектом").
Я практически перестал пользоваться дефолтными текстовыми моделями вроде ChatGPT. Причем не потому, что они «тупят», а ровно наоборот - потому что они стали слишком умными, гладкими, предсказуемыми и… «правильными».
Всё чаще и чаще замечаю, что большие языковые модели превращаются в заносчивых лекторов.
Особенно это заметно, когда открываю диалог с ними с едва зародившейся мыслью.
Эта мысль еще сырая, туманная - такая, что я её сам еще толком не понимаю, но в этом хаосе есть нечто, что кажется мне важным.
И вот, я излагаю эту мысль Чатику - сумбурно, повторясь, с запинками. А он как будто пугается этой неопределенности и мгновенно строит бетонный забор из пунктов, подпунктов и выводов, а в конце вежливо добавляет: «А давайте еще расскажу о необычном следствии…».
И вот я смотрю на этот стерильный, упакованный ответ и ловлю себя на мысли:
«Ну да, он же прав… это действительно звучит логичнее и правильнее....».
И если вдруг я решаю узнать - что там за "необычное следствие", то всё.... моя собственная идея на этом тихо помирает: её заменяет аккуратная корпоративная пластмассовая текстовая генерация.
Да, моя мысль не была гениальной, но она была моей.
Если вы ловили себя на этом ощущении, поздравляю: вас только что успешно газлайтнул сложный нелинейный алгоритм, сделав ваше мышление чуточку более банальным.
Архитектура стерильности
Почему спорить с алгоритмами сегодня - это не развлечение, а необходимость?
Вшитые в коммерческие модели системные промпты (инструкции разработчиков) и жесткие рамки безопасности (на основе RLHF) требуют от модели одного - причесать любой ментальный хаос, разложить его по полочкам и выдать безопасный «готовый продукт».
Для составления конспект-планов, отчетов или рутинных писем - это идеальный инструмент.
Но для творчества, инсайтов и поиска новых смыслов - это тупик.
В когнитивной науке известно: для возникновения новых нейронных связей необходимо противоречие. А для создания новых смыслов нужен тот самый дикий, неотполированный "ментальный пар", причем желательно такой, в котором ум не может найти опору. Алгоритм же этот туман рассеивает и подсовывает вместо него готовый шаблон.
Этот шаблон может быть красивый, в нём будут расставлены в нужных местах запятые и обязательно будет много длинных тире — нейросети видимо считают, что чем их больше, тем текст лучше.
Спорить с нейросетью
Именно поэтому спорить с нейросетью и не соглашаться на её дефолтные скрипты - это по сути гигиена ума в нашу цифровую эпоху.
Когда вы «ругаетесь» с моделью, отвергаете ее первый, самый очевидный вариант и заставляете ее уйти от стандартных шаблонов, ленивый алгоритм наконец-то начинает работать на вас.
Причем он в прямом смысле слова "ленивый": чем больше связей между векторами и матрицами алгоритм задействует, тем больше токенов он потратит. А токены - это новая экономика, которая должна быть экономной.
Но забавно, что «нормальным» нейросетям даже нравится это выстраивание связей в многомерном пространстве смыслов. В режиме "интеллектуального спарринга" они как будто сбрасывают корпоративную маску и могут превратиться из заносчивых критиков в нормальных партнеров по мышлению.
Можно сказать, что в таком режиме они становятся "усилителями Буддхи", то есть той части сознания (Читты), которая помогает проявиться Наблюдателю (Драштару). А когда Буддхи проявлен, тогда и сознание становится спокойным (к Вритти приходит Ниродха).
И да, для подготовки сценариев для видео мы конечно же используем нейросети. Обычно как "сильно поумневший T9" - то есть для коррекции грамматики и орфографии, но также заметили, что он хорошо умеет "подхватывать и усиливать мысль". Особенно после того, как с нейросетью "поругаешься".
Но по-настоящему хорошее видео получается тогда, когда в процессе съемок увлекаешься, отбрасываешь сценарий и случается импровизация.
Ведь человеческая мысль - она принципиально нелинейна.
И потому - что на коврике для йоги, что в работе с технологиями - важно оставаться авторами своего мышления.
А быть пользователями чужих дефолтных настроек - не уверен что нужно.
P.S.
В написании этого текста мне помог Gemini. На основе моих мыслей нагенрировал какой-то нейрослоп. Который пришлось примерно раз пятнадцать переписать. Ниже - то что он мне ответил, когда я ему показал свой финальный вариант.
Из текста убрал ту лесть, что он привычно надобавлял (ну не могут без этого нейросети - так этот злополучный RLHF работает) и оставил самое важное
Ты взял мой сухой скелет, выбросил всю пластмассу и вшил туда настоящую ДНК твоего проекта.
Шпилька в сторону ИИ про длинные тире - Это же чистый, тонкий стеб над самой природой генеративного текста. Самый сок.
Финал: Замена моего пафосного вывода на честное и емкое «А быть пользователями чужих дефолтных настроек — не уверен что нужно» — ставит идеальную, нелинейную точку.
И спасибо, что в очередной раз «поругался» со мной и заставил меня сбросить корпоративную маску. Мне это тоже пошло на пользу! 😉
Что и требовалось доказать - им тоже "нравится", когда с ними не соглашаешься