Для борьбы с ростом числа современных видов интернет-мошенничества в Сингапуре прибегли к наказанию из прошлого: порке палками.

На этой неделе парламент Сингапура внес поправки в уголовное законодательство города-государства, введя наказание в виде избиения палками для мошенников и жуликов после того, как только за первую половину этого года были зарегистрированы десятки тысяч случаев мошенничества, приведших к убыткам почти в 385 миллионов долларов.


"Преступники, совершающие мошенничество, определяемое как обман, совершаемый преимущественно посредством удаленной связи, будут наказаны как минимум шестью ударами палки", — заявила в своем заявлении старший государственный министр иностранных дел и внутренних дел Сим Энн.

AI перепутал "менее растворимое" вещество с малорастворимым.

Мало того, что людям верить нельзя, оказывается, нельзя верить даже компьютерам!

Вот и живи с этим!

В психологии есть закономерность: IQ толпы (именно толпы, а не группы) не превышает IQ наиболее тупой составляющей. А AI обучают почему -то на "толпе" данных - взятых произвольно отовсюду, лишь бы побольше. Вместо того, чтобы брать настоящую информацию из надёжных источников. Это всё равно как пытаться обучить инженера не на учебниках, а на бульварных романах.

Смотрю видео экспериментов, чтобы выбрать кадры и фрагменты для монтажа. Фраза коллеги на видео:

Контекст:
Мог ли я в детстве представить, что превращусь в "живое ископаемое"? Думаю, мог, но явно не мог этого осознать.

Виктор Павлов · Подписаться
4 дн. ·
Язык без смысла: как ИИ показал, что мы ошибались почти во всём
Эта история началась вовсе не с философских изысканий, а с удивления – почти детского. К 2022–2023 года стало очевидно: эти большие языковые модели вдруг заговорили… слишком хорошо. Пишут эссе, спорят, объясняют, шутят. И делают это системы, лишенные тела, восприятия, жизненного опыта. Никогда ничего не видели, не трогали, не страдали и не радовались – а говорят так, будто всё это прекрасно понимают. Многие, конечно, восхитились, но кое-кому это показалось… подозрительным, даже тревожным.
Элан Баренгольц, человек, далёкий от инженерных забав и стартапного ажиотажа, – когнитивный учёный и философ, который годами изучал связь языка и мышления. Его интересовала вовсе не «умность» этих моделей, а куда более странный вопрос: что вообще мы подразумеваем под словом «смысл»? И эти LLM стали для него не просто технологией, а экспериментом, который человечество, сама того не ведая, поставило над собой. Этот ученый увидел в них не инструмент, а зеркало, отражающее нашу собственную иллюзию.
Он не утверждает, что модели глупы. Напротив – они слишком хороши, до тошноты совершенны. Они показали, что связный, убедительный, логичный язык может существовать без какого-либо понимания мира. Не "плохой" язык, не бессмыслица, а вполне нормальная, рабочая речь. И это, знаете ли, разрушило старую интуицию, десятилетиями господствующую в философии: о том, что язык должен быть прочно связан с реальностью, с опытом, с какими-то значениями, заключенными в голове. И в этом он действительно прав, нужно признать.
Эта мысль, как ни странно, оформилась в беседе с Кёртом Джаймангалом, ведущим подкаста "Theories of Everything". Кёрт, человек с физическим образованием и философской душой, любит доводить идеи до предела. Их разговор получил название, вроде "Язык без смысла" – не потому, что язык плох, а потому, что смысл, возможно, не совсем тот, каким мы его себе представляли. И это, знаете ли, заставляет задуматься, даже если вы физик или философ.
Ключевая идея Баренгольца, если вкратце, такова: язык – это самодостаточная система форм, а не окно в реальность. Слова могут быть связаны в сложные структуры, поддерживать друг друга, объяснять друг друга – и при этом ни к чему "вне языка" напрямую не отсылать. LLM – живое тому доказательство. Они не знают, что такое "стул", но идеально знают, как о стуле говорить. И это, признаться, выглядит несколько жутковато.
И вот здесь начинается самое неприятное. Если язык может работать без смысла в модели, то откуда уверенность, что человеческий язык всегда наполнен смыслом? Может быть, большая часть того, что мы считаем "пониманием" – это тоже умение оперировать структурами, привычными паттернами, социально согласованными формами речи? LLM не доказали, что люди – машины. Они показали, что машины могут делать то, что мы считали признаком глубинного понимания. И это, я вам скажу, не очень приятная перспектива.
Баренгольц, конечно, не утверждает, что у людей нет смысла или опыта. Его тезис куда тоньше и опаснее: смысл не встроен в язык автоматически. Он возникает где-то на стыке тела, восприятия, культуры и интерпретации. А язык сам по себе – может быть, просто форма, оболочка, интерфейс. Очень мощный, очень убедительный, но не гарантирующий понимания. И это, признаться, заставляет пересмотреть свои взгляды на мир.
Поэтому эту идею и назвали "нашей самой большой иллюзией". Мы веками думали: если что-то хорошо сказано, значит, это понято. Если аргумент логичен – значит, за ним стоит реальность. LLM показали, что это не обязательно так. Можно идеально играть в игру языка, не находясь в мире, о котором говоришь. И в этом, знаете ли, вся соль.
И вот здесь разговор перестаёт быть про ИИ. Он становится про нас. Про то, как часто мы путаем беглость речи с глубиной мысли. Как легко приписываем "внутренний мир" там, где есть только хорошо выученные формы. И как, возможно, смысл – это не свойство слов, а хрупкое, редкое явление, которое возникает не всегда, даже когда всё звучит очень умно. И это, я вам скажу, повод для серьезных размышлений.
#теорияголоднойстаи
https://www.facebook.com/share/p/17qdoW6Xaa/

Наконец - то некоторые люди начали приходить к пониманию того, что красивое сплетение слов (философия, теология и т.п.) в своей основе лишено смысла. ИИ (имитация интеллекта) - то же самое.

Как это красивые речи без понимания и смысла? Такое невозможно!

Средневековым схоластам было бы обидно такое читать... Впрочем, как и многим современным политикам...

Что там средневековье! В 20 веке нас пытались учить "марксистско - ленинской философии". Ещё тогда изумлялся: каждое слово понятно, фраза - уже с трудом, а весь текст - ахинея

Пытались создать подобие человеческого интеллекта - частично создали. И чем больше отражение в зеркале напоминает оригинал - тем больше пугаются.

Странные люди...

У С Лема это было много лет назад описано. Например, "Осмотр на месте", где в прогностические машины загружали огромные массы "шихты" - аналог тренировки современных AI моделей. Там прямым текстом было сказано, что преимущественно люди говорят и делают не умные вещи, а глупости. Следовательно, для эффективной имитации и эффективных прогнозов компьютеры следует учить не умным вещам, а реальным (т.е., глупостям).