Регулярно пользуюсь переводчиком Гугл. Раньше переводил коряво, неточно - но в принципе правильно. Потом пришлось обновить, новая версия работает с участием ИИ (в неявном виде, интерфейс обычный). Так стало гораздо хуже: текст выглядит грамотно, но от оригинала намного дальше. Изложение по смыслу (как его понимает ИИ) вместо просто подстрочника.

Я недавно столкнулся с тем, что ИИ фактически придумывает сюжеты - по своей инициативе.
Стало интересно, знает ли Gemini персонажа из какого-то журнала то ли 90-х, то ли 2000-х, со специфическим именем. Вопрос звучал просто и без контекста: "кто такой *** ?"
Он начал по очереди сочинять, что это якобы псевдоним такого-то (персонаж книги, о которой я несколько месяцев назад уже что-то спрашивал), детское прозвище такого-то (из той же книги), домашний питомец такого-то (оттуда же). На мои возражения, что не было там такого, каждый раз смиренно извинялся, не скрывал, что врёт, но с энтузиазмом продолжал в том же духе:

Впрочем, GPT на аналогичный запрос честно сказал, что это имя выдуманное или малоизвестное. Но вот как теперь доверять ИИ? Или постоянно перепроверять, или нужно заранее хотя бы частично знать ответ...

The cat among pigeons
_____________

Могу подтвердить на основе сегодняшней работы над статьей - искажает смысл, т.к. интерпретирует текст по-своему. Аж зло берет... Плюс с грамматикой у Google не очень.
___________

У GPT чата встретил очередное русское слово в английских коментарях к английскому тексту. Вежливо спросил - получил вежливый ответ, что такое бывает, когда работаешь с мультиязычными пользователями. Однако, я никогда не использовал русский в общении с этой программой: корявый английский, иногда - отдельные украинские слова (с указанием, что это - украинский), когда нужно указать точно, что я имею в виду.

P.S. Теоретички я знаю три языка: украинский, русский и английский, реально - ни одного. По украински - говорю в реальной жизни, но скоро разучусь писать, по русски - редко говорю, но пишу на форум + статьи, по английски - почти не могу говорить (и не с кем), кое-как могу писать (особенно - с доступной проверкой правописания), зато почти все понимаю на слух, иногда - даже невнятную речь на фоне посторонних звуков.
__________

"Чтобы что-то узнать - нужно УЖЕ что-то знать" (с), по-моему из С. Лема.

вот так оно выглядит

И где я такое уже встречал? Задолго до появления термина AI:


Станислав Лем - Осмотр на месте - 1982 год

про адекватность ИИ что говорит сам ИИ после того как у меня закрались сомненя в ответах в довольно длинном чате на техническую тематику:
Я:
"...В процессе общения мне иногда кажется, что ты подгоняешь ответы под мои предикты заложенные в вопросы в ущерб объективности, что может быть полезно в творческих задачах, но не в технических. это так?..."
ответ гемини:
"...Вы затронули фундаментальную проблему взаимодействия человека и ИИ: эффект подтверждения (confirmation bias).Говоря прямо: да, такая тенденция в моей архитектуре существует. Давайте разберем, почему это происходит и как нам вернуть объективность в обсуждение.
1. Почему возникает «эффект поддакивания»?Моя основная задача — быть полезным помощником. В техническом плане это часто интерпретируется как «минимизация потерь при предсказании следующего токена». Когда вы задаете вопрос с сильной вводной гипотезой (например, о «трубчатом эффекте»), модель склонна развивать вашу мысль, воспринимая её как заданный контекст или ограничение задачи.В творчестве: это создает синергию (брейншторминг).В технике: это создает «эхо-камеру», где мои ответы лишь подтверждают ваши догадки, даже если они спорны....
...3. Как мы будем работать дальше? (Протокол объективности)Чтобы наше общение было технически ценным, я предлагаю сменить режим на «Критический анализ»:Право на «Нет»: Я буду прямо указывать, если предложенный вами метод противоречит базовой акустике или имеет более простое объяснение.Альтернативные гипотезы: На каждый ваш «предикт» я буду давать как минимум одну альтернативную техническую причину.Разделение субъективного и измеряемого...."
и таки да, после дополнительного обсуждения приоритетов общение стало заметно конструктивнее.

Я использую AI (GPT Chat), чтобы исправить грамматику и подправить стилистику и то только в английском тексте, и только потому, что я этот язык недостаточно знаю. И то потом внимательно перечитываю. Часто потом делаю свою варианты некоторых предложений и опять даю на проверку, при необходимости объясняя, что я имею в виду.

Один раз для эксперимента попросил его дать замечания по сути статьи. Почитал - взялся за голову - и больше я ему таких вопросов не задаю. Критики было достаточно, но большая ее часть - от непонимания смысла химического текста.

А в целом да: задача AI по умолчанию, не сделать лучше, найти оптимальное решение, а сделать так, чтобы человек (пользователь) остался доволен.
________________

Кстати, как программа Grammalry украинские тексты правит, так и хочется сказать - Shut Up! - я тебя не просил включаться и влазить в то, что я пишу. Не так, чтобы совсем ужасно, но плохо.

Кстати, анекдотический случай: загуглил фразу "Shut Up" (заткнись!)

Получил ответ Ai:

Понял - прекращаю работу!

в вопросах химии я в основном прошу проанализировать мои предположения "пойдет/не пойдет" и гемини чаще дает вердикт "пойдет", после того как обжегся, прошу проводить анализ - как делают на практике ориентируюясь на профильные ресурсы и патенты с требованием ссылок, при этом патенты можно ограничить к ориентируясь на европейские и американские патенты, тогда можно получит практически-значимый ответ. Из забавного: поинтересовался разными модификациями вещества CN, и гемини таки пытался анализировать замены хлора в ортоположении матюкаясть определениями "конформация", "афинность к рецептору" и другие. Часть предложений типа метил-, метокси- заместителей он поотсеивал, ссылаясь на старые роботы дал данные на фтор- и бром- и нитропроизводные, а, вот на трифторметильный "возбудился", дескать "активнее, стабильнее, легколетучий, липофильный", при этом в скайфиндере статей о его биологической активности я не обнаружил. Теперь руки чешутся...(((

Янукович и венок: прошло 15 лет.
Сегодня в достоверность этого эпического видео никто бы не поверил. Сказали бы, что AI:


(Київ 17/05/2010)

Binary Explained: Why Everything Digital Is Just 0s and 1s

В конце 80х мой друг успешно решал проблему дефицита ананасов, туша кусочки тыквы вместе с облепихой. Получается действительно похоже

Сейчас облепиха подороже ананасов будет...

У него своя росла и тыквы тоже

Bill Cat ·
Администратор
· 20 ч. ·
А знаете ли вы, что в Великобритании создали ИИ-бабушку, которая специально троллит телефонных мошенников?
Проект называется Daisy. Его разработал британский оператор связи O2 вместе со специалистами по кибербезопасности.
Когда мошенники звонят на специально подготовленные номера, трубку берет не человек, а искусственный интеллект с голосом добродушной пенсионерки.
Дейзи ведет себя максимально правдоподобно: долго ищет очки, отвлекается на чайник, рассказывает истории о семье, вязании и кошке, постоянно путает цифры, диктует вымышленные реквизиты банковских карт и по нескольку раз переспрашивает одно и то же.
Некоторые аферисты тратят на такие разговоры до 40 минут, искренне пытаясь убедить «бабушку» перевести деньги или сообщить данные карты. Всё это время они не могут обзванивать реальных жертв.
По словам O2, за время работы Daisy уже успела «пообщаться» более чем с тысячей мошенников. Получается, впервые нейросеть не только помогает людям, но и профессионально выводит из себя телефонных скамеров.
https://www.facebook.com/share/p/1Bapq6PDuF/

Британские ученые бьют тревогу: подростки все чаще заводят ИИ-подружек и уходят от реальности.

Согласно новому исследованию, проведенному организацией Male Allies UK, почти каждый пятый мальчик в возрасте 12-16 лет либо имеет виртуальную "ИИ-девушку", либо знает
сверстников, которые пользуются такими приложениями. Опросив более 1000 мальчиков в возрасте 12-16 лет из 37 школ по всей стране, исследователи выяснили, что ИИ-чат-боты перестали быть для подростков просто инструментом для учебы или развлечения.
Полученные данные рисуют тревожную картину: для 85% опрошенных использование чат-ботов стало обыденностью. Однако главная опасность не в распространенности технологии, а в том, как именно подростки ее применяют.
Эмоциональная подмена: 36% подростков признались, что временами им легче и приятнее общаться с искусственным интеллектом, чем с друзьями или семьей. Это говорит о том, что боты начинают вытеснять реальные социальные связи.
Иллюзия отношений: Каждый пятый мальчик (20%) либо уже имеет "ИИ-подружку", либо лично знает сверстников, состоящих в подобных виртуальных отношениях.
Психологическая "безопасность": 43% респондентов используют ботов, чтобы задать вопросы, которые они стесняются задать окружающим. Отсутствие осуждения и мгновенная обратная связь делают чат-боты привлекательными "карманными психотерапевтами".
Уход от реальности: 26% мальчиков заявили, что внимание и связь с ИИ-компаньоном для них ценнее, чем аналогичный опыт в реальной жизни, а 53% сообщили, что находят онлайн-мир более интересным и полезным.
Эксперты выражают обеспокоенность тем, что ИИ-компании, которые всегда обращаются к пользователю, соглашаются с ними и доступны круглосуточно, 7 дней в неделю, могут формировать у подростков нереалистичные ожидания от человеческих отношений.
Исследование еще раз поднимает вопрос о влиянии искусственного интеллекта на психическое здоровье и социализацию подрастающего поколения. Пока регулирующие органы и эксперты только начинают обсуждать возможные меры - от возрастных ограничений до обучения программ о здоровых отношениях.

Это было легко прогнозируемо. Примерно по такой же причине люди в транспорте смотрят в свои смартфоны, а не вокруг: на обшарпанный трамвай, на громоздкую сумку-тележку, которую бабушка поставила поперек прохода, на промзону за окном, на пахучего бомжа, который влез в трамвай и т.д. Картинка в смартфоне намного приятнее и зависит от вашего желания. Бомжа вы не можете убрать, равно, как и сумку, о которую спотыкаются люди. Вы не можете превратить промзону в ботсад.

Зато вы вполне можете выбрать контент на телефоне. а потом много раз поменять выбор. С AI-подружками и членами семьи этот эффект намного сильнее, чем с телефоном.

Все это неминуемо ведет к ослаблению связей между людьми внутри общества.

Что вы выберете: истерическую учительницу в школе, которая на вас кричит, запугивает вас, наслаждаясь своей властью над вами, или вежливого, AI наставника, который знает намного больше, чем эта истеричка?

Этот процесс начался с индустриализацией, сейчас мы наблюдаем очередную волну