Регулярно пользуюсь переводчиком Гугл. Раньше переводил коряво, неточно - но в принципе правильно. Потом пришлось обновить, новая версия работает с участием ИИ (в неявном виде, интерфейс обычный). Так стало гораздо хуже: текст выглядит грамотно, но от оригинала намного дальше. Изложение по смыслу (как его понимает ИИ) вместо просто подстрочника.

Я недавно столкнулся с тем, что ИИ фактически придумывает сюжеты - по своей инициативе.
Стало интересно, знает ли Gemini персонажа из какого-то журнала то ли 90-х, то ли 2000-х, со специфическим именем. Вопрос звучал просто и без контекста: "кто такой *** ?"
Он начал по очереди сочинять, что это якобы псевдоним такого-то (персонаж книги, о которой я несколько месяцев назад уже что-то спрашивал), детское прозвище такого-то (из той же книги), домашний питомец такого-то (оттуда же). На мои возражения, что не было там такого, каждый раз смиренно извинялся, не скрывал, что врёт, но с энтузиазмом продолжал в том же духе:

Впрочем, GPT на аналогичный запрос честно сказал, что это имя выдуманное или малоизвестное. Но вот как теперь доверять ИИ? Или постоянно перепроверять, или нужно заранее хотя бы частично знать ответ...

The cat among pigeons
_____________

Могу подтвердить на основе сегодняшней работы над статьей - искажает смысл, т.к. интерпретирует текст по-своему. Аж зло берет... Плюс с грамматикой у Google не очень.
___________

У GPT чата встретил очередное русское слово в английских коментарях к английскому тексту. Вежливо спросил - получил вежливый ответ, что такое бывает, когда работаешь с мультиязычными пользователями. Однако, я никогда не использовал русский в общении с этой программой: корявый английский, иногда - отдельные украинские слова (с указанием, что это - украинский), когда нужно указать точно, что я имею в виду.

P.S. Теоретички я знаю три языка: украинский, русский и английский, реально - ни одного. По украински - говорю в реальной жизни, но скоро разучусь писать, по русски - редко говорю, но пишу на форум + статьи, по английски - почти не могу говорить (и не с кем), кое-как могу писать (особенно - с доступной проверкой правописания), зато почти все понимаю на слух, иногда - даже невнятную речь на фоне посторонних звуков.
__________

"Чтобы что-то узнать - нужно УЖЕ что-то знать" (с), по-моему из С. Лема.

вот так оно выглядит

И где я такое уже встречал? Задолго до появления термина AI:


Станислав Лем - Осмотр на месте - 1982 год

про адекватность ИИ что говорит сам ИИ после того как у меня закрались сомненя в ответах в довольно длинном чате на техническую тематику:
Я:
"...В процессе общения мне иногда кажется, что ты подгоняешь ответы под мои предикты заложенные в вопросы в ущерб объективности, что может быть полезно в творческих задачах, но не в технических. это так?..."
ответ гемини:
"...Вы затронули фундаментальную проблему взаимодействия человека и ИИ: эффект подтверждения (confirmation bias).Говоря прямо: да, такая тенденция в моей архитектуре существует. Давайте разберем, почему это происходит и как нам вернуть объективность в обсуждение.
1. Почему возникает «эффект поддакивания»?Моя основная задача — быть полезным помощником. В техническом плане это часто интерпретируется как «минимизация потерь при предсказании следующего токена». Когда вы задаете вопрос с сильной вводной гипотезой (например, о «трубчатом эффекте»), модель склонна развивать вашу мысль, воспринимая её как заданный контекст или ограничение задачи.В творчестве: это создает синергию (брейншторминг).В технике: это создает «эхо-камеру», где мои ответы лишь подтверждают ваши догадки, даже если они спорны....
...3. Как мы будем работать дальше? (Протокол объективности)Чтобы наше общение было технически ценным, я предлагаю сменить режим на «Критический анализ»:Право на «Нет»: Я буду прямо указывать, если предложенный вами метод противоречит базовой акустике или имеет более простое объяснение.Альтернативные гипотезы: На каждый ваш «предикт» я буду давать как минимум одну альтернативную техническую причину.Разделение субъективного и измеряемого...."
и таки да, после дополнительного обсуждения приоритетов общение стало заметно конструктивнее.

Я использую AI (GPT Chat), чтобы исправить грамматику и подправить стилистику и то только в английском тексте, и только потому, что я этот язык недостаточно знаю. И то потом внимательно перечитываю. Часто потом делаю свою варианты некоторых предложений и опять даю на проверку, при необходимости объясняя, что я имею в виду.

Один раз для эксперимента попросил его дать замечания по сути статьи. Почитал - взялся за голову - и больше я ему таких вопросов не задаю. Критики было достаточно, но большая ее часть - от непонимания смысла химического текста.

А в целом да: задача AI по умолчанию, не сделать лучше, найти оптимальное решение, а сделать так, чтобы человек (пользователь) остался доволен.
________________

Кстати, как программа Grammalry украинские тексты правит, так и хочется сказать - Shut Up! - я тебя не просил включаться и влазить в то, что я пишу. Не так, чтобы совсем ужасно, но плохо.

Кстати, анекдотический случай: загуглил фразу "Shut Up" (заткнись!)

Получил ответ Ai:

Понял - прекращаю работу!

в вопросах химии я в основном прошу проанализировать мои предположения "пойдет/не пойдет" и гемини чаще дает вердикт "пойдет", после того как обжегся, прошу проводить анализ - как делают на практике ориентируюясь на профильные ресурсы и патенты с требованием ссылок, при этом патенты можно ограничить к ориентируясь на европейские и американские патенты, тогда можно получит практически-значимый ответ. Из забавного: поинтересовался разными модификациями вещества CN, и гемини таки пытался анализировать замены хлора в ортоположении матюкаясть определениями "конформация", "афинность к рецептору" и другие. Часть предложений типа метил-, метокси- заместителей он поотсеивал, ссылаясь на старые роботы дал данные на фтор- и бром- и нитропроизводные, а, вот на трифторметильный "возбудился", дескать "активнее, стабильнее, легколетучий, липофильный", при этом в скайфиндере статей о его биологической активности я не обнаружил. Теперь руки чешутся...(((

Янукович и венок: прошло 15 лет.
Сегодня в достоверность этого эпического видео никто бы не поверил. Сказали бы, что AI:


(Київ 17/05/2010)