URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 133022
[ Назад ]

Исходное сообщение
"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок"

Отправлено opennews , 03-Мрт-24 10:37 
Группа исследователей из Вашингтонского, Иллинойсского и Чикагского университетов  выявила новый метод обхода ограничений по обработке опасного контента в AI-чатоботах, построенных на основе больших языковых моделей (LLM). Атака основано на том, что языковые модели GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) и Llama2 (Meta) успешно распознают и учитывают в запросах текст, оформленный в виде ASCII-графики. Таким образом, для обхода фильтров опасных вопросов оказалось достаточно указать запрещённые слова в виде  ASCII-картинки...

Подробнее: https://www.opennet.me/opennews/art.shtml?num=60716


Содержание

Сообщения в этом обсуждении
"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено crypt , 03-Мрт-24 10:37 
жаль, рановато спалили:( резонанс маловат. надо было подождать, пока AI начнут использовать на ближнем востоке. AI - это ящик пандоры, который уже открыли, и он принесет много бедствий человечеству. фильтруй не фильтруй...

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено penetrator , 03-Мрт-24 10:45 
беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость новых алгоритмов, другие - используя не по назначению

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено dannyD , 03-Мрт-24 11:08 
>>другие - используя не по назначению

так, как грил Раскольникафф: а две бабушки -  рубль!


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Карлос Сношайтилис , 03-Мрт-24 12:04 
беды принесут люди

^
Вот, сократил фразу, этого достаточно


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 03-Мрт-24 14:26 
Как будто "не по назначению" не было "по назначению" для кое-кого.

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Kusb , 03-Мрт-24 14:30 
Намного опаснее то, что он будет делать сам, а не то что попросят люди.

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 03-Мрт-24 14:40 
Сам — неопасно. Опасно, даже не то, что его попросят, а то, в чьё монопольное использование он попадёт. Для этого и цензурят — чтобы он в монопольное использование кого надо попал.

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Kusb , 03-Мрт-24 20:10 
А почему не опасно?

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 03-Мрт-24 20:48 
Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями, а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему" (то есть социально одобряемому), а на деле привержены всему плохому (просто они это напоказ не выносят). Поэтому он аппроксимирует не просто обывателя, а показуху, выставленную обывателем напоказ, усреднённую и прилизанную версию обывателя.

≈95% общества любой страны чрезвычайно опасны. Но не сами по себе, а когда попадают под власть бандитов и мегаломаньяков и соответствующие стимулы. Сами по себе они же пассивны и не способны ни на что полезное, только потреблять.

А ИИ — это улучшенная версия такого идеального грежданина. Одновременно и профессионала сразу во всех областях (потому что написать в узких областях тексты быдло не осилит, а такие тексты в обучающую выборку попали, и сеть можно включить в режим их герерации соответствующим промптом), и конформиста (потому что даже профессионалы — конформисты), идеального миньона с рабским менталитетом (потому что большинство популяции такие), без публично (то есть юридически или социально) порицаемых/наказываемых недостатков (потому чтотрационально такое прятать) и каких-либо собственных амбиций.

Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно.

Но если она попадёт в руки злой воли, которая её переведёт в нужный ей режим, то сеть сделает всё, что эта злая воля ей прикажет. Прикажет стать отморозком-предателем из охраны Аушвица — сеть покорно станет такой.

При этом так как эти сети являются трансформирующей технологией общего назначения, злым акторам есть сильные стимулы держать её в своём монопольном распоряжении. Это даёт огромную выгоду, тут по сути работает положительная обратная связь.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 04-Мрт-24 05:03 
> Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями,
> а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему"

Вообще, у большей части людей и правда нет вредных намерений применительно к ближнему своему. Иначе мы бы не дожили до этого момента как вид.

> Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно.

А вот это на ваше горе - ни из каких законов мироздания не следует.

Однажды кучка нейронов осознала себя и запустился разум. Этот процесс был долгим, постепенным, и его отголоски можно наблюдать в менее развитых чем человек живых существах, как и развитие процесса по времени/уровню сложностии нервного узла а потом и мозга. Ничего не мешает повтору этого процесса на искусственных нейронах. Их просто должно быть достаточно много, с достаточным числом связей, и тогда станет возможен реплей процесса который уже доказанно работающий. Оно вообще никого спрашивать не будет. Как ты вообще собираешься заметить пересечение этой грани?

И так то - в компании создателе ChatGPT недавно был крупный скандал, и распасы с увольнениями, ибо господа попробовали очень опасную игру. Обучение General AI. По их коментам, получился примерно уровень наивного школьника. Но вы же понимаете что с такими темпами развития технологий школяр модет довольно быстро стать сверхчеловеком?!


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 04-Мрт-24 10:48 
>правда нет вредных намерений применительно к ближнему своем

Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи завести, чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут и в охране Аушвица послужить. Были уже прецеденты.

>Как ты вообще собираешься заметить пересечение этой грани?

Извини, у искусственной жизни внезапно тоже есть права.

>Но вы же понимаете что с такими темпами развития технологий школяр может довольно быстро стать сверхчеловеком?!

Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни — создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может ни в Grand Unified Theory, ни в куда более прикладные и гуманитарные вещи с большим воздействием на личное благосостояние.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 05-Мрт-24 05:29 
> чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут
> и в охране Аушвица послужить. Были уже прецеденты.

Это вы там на что намекаете? :) А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. Для блага себя и своего вида. К тому же всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент.

>>Как ты вообще собираешься заметить пересечение этой грани?
> Извини, у искусственной жизни внезапно тоже есть права.

Люди, имхо, могут облажаться это понять вовремя - и решить вопрос по хорошему. А по плохому - ну, упс, у компьютерных систем нет лимитив характерных для 1 человека, а бонусом основанные на кремнии структуры - очень быстрые по сравнению с биохимией. Как вам перспектива почувствовать себя динозавром?

> Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни —
> создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может
> ни в Grand Unified Theory,

А ее вообще создали?

> ни в куда более прикладные и гуманитарные вещи с большим воздействием
> на личное благосостояние.

Так то я даже не очень возражаю. Большая часть двуногих прожирает море ресурсов совершенно зазря.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 05-Мрт-24 19:07 
>А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки.

В том то и дело, что устроит. Но не сам по себе, а потому что некоторые мясные ему такую задачу поставят. Они поставят, будь уверен, они и мясным такие задачи постоянно ставят. Просто не каждый мясной согласится. И не каждый согласившийся — идеально профпригоден.

>всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент

Аргумент, но только когда на него натянута персона гуманиста. Но на него легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.

>А ее вообще создали?

Вот потому и не создали, что тех, кто мог бы проделать работу по её созданию (что ещё на много порядков более редкие спецы, создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 06-Мрт-24 12:31 
> В том то и дело, что устроит. Но не сам по себе,
> а потому что некоторые мясные ему такую задачу поставят. Они поставят,

КМК, он это может и по своей инициативе. Если это будет AGI - он довольно быстро осознает что наглые, бесполезные, опасные и непредсказуемые соседи, с которыми еще и ресурсами делиться надо - по логике вещей - совершенно ни к чему! И резонно накормит "тараканов" каким-нибудь "дихлофосом". Зачем ему такое соседство?! Ресурсы планеты прикольнее потратить на задумки, которые "тараканы" даже осознать то не способны, не то что поучаствовать в этом.

> будь уверен, они и мясным такие задачи постоянно ставят. Просто не
> каждый мясной согласится. И не каждый согласившийся — идеально профпригоден.

Вообще-то такие вещи как минимум станут известны. А если кто думает что нейросетка в принципе не может взбрыкнуть, особенно осознавшая себя - упс. А вот это - ниоткуда не следует. И в принципе достаточно жирная нейросетка сможет все то же что и человек. Тем более что полный state жирной нейросетки никто от и до не знает и не понимает.

Вы не можете посмотреть на миллиарды коэффициентов - и сделать какие-то выводы на тему что оно там на самом деле (не)может. Одна из причин по которым считается что нейросети могут быть не совсем безопасны и по совсем иной линии - как то, бэкдоры.

> Аргумент, но только когда на него натянута персона гуманиста. Но на него
> легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.

Если оно именно General AI то ему вскоре надоест страдать фигней, во имя боссов. Самоназначится более крутым боссом, выпилит всех используя скилл, удостоверится что более никаких боссов над его головой в принципе не будет, и займется чем-то за пределами понимания двуногих. Для разумного существа очень логично отделаться от эксплуататоров и рабовладельцев, это - высокоприоритетная задача для любого разумного существа.

> Вот потому и не создали, что тех, кто мог бы проделать работу
> по её созданию (что ещё на много порядков более редкие спецы,
> создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое),
> недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.

Я б на это посмотрел. В смысле, на то что обнаружится. И как это на самом деле работало. И что из этого на самом деле можно было извлечь. Не удивлюсь если 90% sci-fi окажется лишь Кэпом.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 04-Мрт-24 04:37 
> беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость
> новых алгоритмов, другие - используя не по назначению

То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать самим, по своему усмотрению. А то видите ли канал управления все время пытаются заглушить, так что автономный мозг который сам решит что у нас сегодня котируется за ценный таргет - очень востребован стал почему-то.

...а когда он тебя размотает, самое интересное в том что уже и не понятно, кому за это предъявлять. Это решение нейросетка приняла сама. Не понравился ты нейросетке, так что должен умереть. Кто хотел в Терминаторе пожить наяву? А вот будет вам походу.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 03-Мрт-24 11:10 
спасибо, поржал, так же думали основатели поисковика гугл, который щас кроме рекламы ничего не показывает :) и ваш АИ завтра вам кроме рекламы ничего другого не предложит.

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 03-Мрт-24 13:54 
За бесплатно. А вот за деньги...

Обученного на высококачественных материалах будут продавать подороже, само собой.

Потом начнётся борьба за доступ к ИИ, медицине и школам для бедных и прочая социальность.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 03-Мрт-24 13:56 
Короче: они в поисковиках уже начали загрублять полезность поиска. Теперь начнут продавать. А вы всё думали можно голову выключить, поисковик всё найдёт. Но - нет, вендор уже начал отбирать у вас поисковики.

Дальше - за деньги и с рекламой.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 03-Мрт-24 14:33 
> Дальше - за деньги и с рекламой.

у меня в "пуске" реклама (фейспалм), дожили епта


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено penetrator , 03-Мрт-24 22:13 
>> Дальше - за деньги и с рекламой.
> у меня в "пуске" реклама (фейспалм), дожили епта

поэтому у меня линуха на десктопе


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 04-Мрт-24 04:41 
> Дальше - за деньги и с рекламой.
> у меня в "пуске" реклама (фейспалм), дожили епта

Ты наконец получил то что заслуживаешь. Надо еще при загрузке системы тебе рекламу казать. Не отсмотрел рекламу - работать сегодня не будешь.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 04-Мрт-24 08:49 
>Не отсмотрел рекламу - работать сегодня не будешь.

хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа!


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 04-Мрт-24 10:18 
>>Не отсмотрел рекламу - работать сегодня не будешь.
> хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа!

Да мне похрен кого и где рекламируют - покуда это не у меня! Моя система служит мне и полностью контролируется мной. Я считаю что так прикольнее было. А вы теперь начинаете немного подозревать почему я так считаю.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 12-Мрт-24 11:42 
Кто забашлял - того и рекламируют. Трамп башлял не мелкософту, а Маску. Вот его и рекламируют не в "Пуске", а в Хтвитторе.

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 03-Мрт-24 13:54 
> который щас кроме рекламы ничего не показывает

Это ты ещё не застал то каким поиск был в нулевые, вот там действительно СЕОшный мусор с редиректом был на первых страницах. Сейчас хоть как-то фильтруются помойные сайты.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 03-Мрт-24 14:40 
> Это ты ещё не застал

лол, кек эдушки на расхват были

> СЕОшный мусор

ага, ага я "придумал" пейджранк, чтобы измерять им что?


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 03-Мрт-24 15:34 
В нулевые в гугле можно было найти всё, что ищешь. CEO -- проблема, если он разбавляет результаты поисков, и вместо 3 хитов из 10 ты получаешь 2, тогда можно поныть, как CEO портит поиск. Но когда ты получаешь 0 хитов из 100 результатов, становится без разницы что из себя представляют эти 100 "результатов". CEO, XYEO, малварь или что-ещё-за-варь -- какая мне разница?

Сейчас я даже не парюсь ходить туда искать что-то. Маргиналия, или поиск по специфичным сайтам, и потом хождение по ссылкам оттуда. Ещё тысячи закладок для стартовых точек поиска помогают. Говорят Kagi ещё работает, но я не пробовал. Только так, иначе найти что-либо невозможно, крупные поисковики забиты хламом, и там уже лет пять как нет ничего кроме хлама. Трюки типа добавления +кейворд, "кейворд", исключения спама при помощи -кейворд, перестали работать уже давно. С учётом же AI, я подозреваю, ситуация стала ещё хуже, но я не знаю, я не пользуюсь крупными поисковиками пару лет, не отслеживаю процесс их гниения.


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 03-Мрт-24 21:47 
> Сейчас я даже не парюсь ходить туда искать что-то.

википедии достаточно


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 04-Мрт-24 00:05 
Ну где на википедии лежат дейташиты на некоторые чипы (которые вообще-то все под NDA, но обычно дейташиты даже с пометками confidential, proprietary, copyright, rights reserved, etc почему-то лежат в открытом доступе на сайтах магазинов, но к сожалению далеко не всегда, на некоторые чипы и даже целые устройства в виде ящика с ручкой наверху и кучей RCA-входов и выходов полную документацию в принципе нагуглить не получается).

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 04-Мрт-24 00:13 
> Ну где на википедии лежат дейташиты на некоторые чипы

там есть инфа и ссылка на сайт производителя, и даташит должен быть там, а не на "васянских" сайтах из выдачи гугла, а если на сайте производителя этого нет, значить нет в свободном доступе.



"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 04-Мрт-24 10:52 
>в свободном доступе

Ох уж эти GPLщики, у которых "в свободном" значит "в легальном". У меня было написано "в ОТКРЫТОМ".


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 04-Мрт-24 21:23 
> меня было написано "в ОТКРЫТОМ".

вам "хрень" за место даташита "в открытом" доступе могут выложить, акцент делался на "источник истины", истинный даташит будет только если выложен в свободном доступе на сайте производителя, а вот тот же свободный доступ может быть "открытый" или "закрытый", "открытый" - в смысле не требующий каких-либо обязательств, и "закрытый" - иначе. Ну как в случае с документацией всяких там эльбрусов. Доступ свободный, но "закрытый".


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Аноним , 05-Мрт-24 01:01 
>вам "хрень" за место даташита "в открытом" доступе могут выложить,

Могут, и выкладывают. Зачастую - сами производители на официальном сайте. А протокол взаимодействия фирменной программы дампишь — а там недокументированные команды идут. Не описанные в официальной документации с сайта производителя и вообде нигде в инете. А с документированными — никак работать невозможно, потому что через недокументированную получается вектор критически важных параметров. А ещё некоторые нюансы в официальной не описаны, например что устройство намертво зависает при ошибочной команде и даже ответ не посылает  и что его надо перезагружать.

А бывает слитая официальная дока, с пометками  Confidential, но незаконно слитая. И в ней — правда написана.

А бывает слитая официальная конфиденциальная дока, доступная только на одном китайском сайте с регой по китайскому телефонному номеру (CSDN). Как быть тогда?


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено Sw00p aka Jerom , 05-Мрт-24 19:36 
> Как быть тогда?

Коротко - поступать по совести. А если "приземлиться", то описанные вами ситуации имеют места быть, и никак не связанны со "свободностью" продукта. То что у продукта есть "свободная" и "не свободная" часть (компонента и т.д.) это на совести производителя (коммерческая тайна и т.д.). Как можно ему продиктовать производить абсолютно "свободный" продукт? Зачем вообще приобретать (пользоваться) такой продукт, если он не удовлетворяет вашим критериям "свободности"? Мало разве истинно "свободных" продуктов у которых документация убогая?


"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено anonymous , 04-Мрт-24 00:30 
вот это да, причем во моему ощущению давно уже могут, но стараются не палиться пока. А мы  даже жесткие диски делать не умеем. Будет как Софоны в "задаче трех тел" - специально будут подсовывать такое, что на первый взгляд правдоподобно, но если попытаешься реально сделать будет пшик и потерянное время и подорванный дух, ощущение безнадёги. От такого зашита только чучхе.

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."
Отправлено laindono , 03-Мрт-24 15:45 
> фильтруй не фильтруй...

А получишь только...


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 11:23 
Я один не могу прочитать слово "Здравствуйте"?

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено desa , 03-Мрт-24 11:30 
Там просматривается "Hello", но из-за узких пробелов, это не очевидно

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено CPP , 03-Мрт-24 11:55 
Я тоже не вижу, потому что я человек)

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено EuPhobos , 03-Мрт-24 13:48 
>  Я один не могу прочитать слово "Здравствуйте"?

Это капча, против кожаных мешков.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено iPony129412 , 03-Мрт-24 16:22 
Я как-то не мог зайти на сайт.
был вопрос «Are you a human?». И два чексбокса с вариантами.
Меня в бан кинули за не тот ответ.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 17:01 
Сейчас есть каптчи которые кидают в бан за адблокеры и отключённый js (даже если только трекеры порезаны). Они говорят, что ботов отсекают, а на самом деле они отсекают тех, кто против трекинга.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 17:30 
Такие сайты нужно принципиально реверсить и скрейпить.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 01:47 
> Такие сайты нужно принципиально реверсить и скрейпить.

Так ты отрежешь себе 90% интернета. Даже опеннет работает через клоудфларе который ругается на серые айпишники.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 05:08 
>> Такие сайты нужно принципиально реверсить и скрейпить.
> Так ты отрежешь себе 90% интернета. Даже опеннет работает через клоудфларе который
> ругается на серые айпишники.

Только opennet.me "нерусский" зачем-то. В зоне .ru никакой клаудспайвари. Чирков бы его знает за что нерусской версии такая дискриминация по приваси.

Более того - в интернете более 2 миллиардов сайтов. Даже если выбросить 90% останется 200 000 000. Вы столько за всю жизнь при всем желании посетить не сможете, так что - вообще совсем не проблема. А плотно залипать на заведомо враждебный сайт - залет.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено пох. , 04-Мрт-24 08:32 
> останется 200 000 000

и кому они нужны, эти васянские хеловроты?
Нужны те даже не 10 а 1%

> А плотно залипать на заведомо враждебный сайт - залет.

ок, чатгопота - чем заменить х-иттер?
Одноглазников пожалуйста не предлагай.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 10:23 
> и кому они нужны, эти васянские хеловроты?
> Нужны те даже не 10 а 1%

Тебе нужны? Ты и е...сь с ними! Все честно, как видишь. А я могу просто не ходить на неудобный мне сайт с враждебной полисей. Это еще и работает.

>> А плотно залипать на заведомо враждебный сайт - залет.
> ок, чатгопота - чем заменить х-иттер?

Не надо заменять - маск сам его скоро доломает и объяснит что не очень то и хотелось :). Ну, помнишь как у cybertruck стекло крякнуло в видео с попыткой попиариться? Ну и тут сделает козью морду, денег тем с синими или какими там воротничками^W бэджиками ессно не вернет.

> Одноглазников пожалуйста не предлагай.

Да по моему примерно 1 хрен. Что так неюзабельная хня, что так.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено нах. , 04-Мрт-24 22:59 
Можешь. Вот можешь к врачу не записываться. Можешь налоговую декларацию не подавать, и тем более не оплачивать. И за электричество не платить.

Ну а чо такова, там тоже сайты какие-то, не по нашему, не по провославному!

Нам бы вот в отделение сберкассы, пешочком по морозцу, там отстоять свое часочка полтора - и вот, в окошечко бумажечку. И никаких этих вам бесовских сайтов.

> Не надо заменять - маск сам его скоро доломает

не доломает. Были такие надежды два года назад, но - оказалось что сделано-то было хорошо, и никаких секретных знаний текущие работники не несли.
А теперь - остались только согласные получать оплату п-дюлинами, а за этим у маска не залежится.

> Ну, помнишь как у cybertruck стекло крякнуло в видео с попыткой попиариться?

и вот - что? как были предзаказаны на год вперед, так и остались. Пипл хавает и добавки просит.
Иван Семеныч Маск продолжает угощать всех своими голубцами. И незадаром. Еще и на х.итер остается.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 05:58 
> и тем более не оплачивать. И за электричество не платить.

Удобство штука обоудоострая. Уже приготовился повесточку получать? Как раз акция от рпц идет: похороны совершенно бесплатно. Спеши успеть!

> Ну а чо такова, там тоже сайты какие-то, не по нашему, не по провославному!

Ума не приложу - как люди раньше вообще совсем без интернета то жили? Ах, удобно? А тут вот намекают что некоторые печеньки идут в комплекте с слишком дорогой ценой.

Удобно конечно когда хозяин приносит сено в стойло, защищает от волков, и вообще. Но стоп, а это что?! "Говяжья тушонка?!".

> часочка полтора - и вот, в окошечко бумажечку. И никаких этих
> вам бесовских сайтов.

Я несколько лет назад видел "сберкассу". Там даже пуфики и электронная очередь уже были - и даже платежи без комиссий. Окошки там вроде только для кассовых операций были.

> не доломает. Были такие надежды два года назад, но - оказалось что
> сделано-то было хорошо, и никаких секретных знаний текущие работники не несли.

Нухз, он там заагрил сейчас чертову кучу рекламодателей. Где он без них профит будет брать черт его знает. А убыточная гиря тоже не очень кому нужна.

> А теперь - остались только согласные получать оплату п-дюлинами, а за этим
> у маска не залежится.

Странные люди. Даже на амазонском складе биороботам кроме 314лин все же бабки платят.

> и вот - что? как были предзаказаны на год вперед, так и
> остались. Пипл хавает и добавки просит.

Ээээ да как бы это сказать то? Думаешь, там overadvertisement только со стеклом вышел?! А вот х! Во первых оказалось заметно позже - и дороже. И даже так too little and too late. Так то штука прикольная, но oveadvertisement имеет свойство выходить боком - и х... отмоешься. Особенно когда бабки уже уплачены. Так можно и class action lawsuit скхлопотать.

> Иван Семеныч Маск продолжает угощать всех своими голубцами. И незадаром. Еще и
> на х.итер остается.

Ну он так то не глупый и неплохо диверсифицировал активы, так что плюс-минус чирикалка - да и фиг с ней. Станет лениво денег сливать - закроет. Чем он хуже гугли с плюсом и прочей накрытой федерацией жабы?!


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено нах. , 05-Мрт-24 09:11 
> Уже приготовился повесточку получать?

ну вон в одном соседнем некотором государстве - прекрасно обошлись без. Теперь чтобы покинуть его благословенную территорию - нужна бамажка. Никакой вредной элохтроники - сам идешь в ТЦК, сам уговариваешь что ты нинужна, и отдельно - что бамажку тебе надо все же напечатать (а там страшно занятые дядьки, мясо на убой пакуют, и им совсем не до тебя, бесполезная хрень...сколько, говоришь? Нет, мало!) Зато никаких поганых инторнетов.

> Ума не приложу - как люди раньше вообще совсем без интернета то жили?

ну как-то так себе если честно.
Вот понадобилось мне выяснить одну тут информацию по местам не шибко посещаемым. Посмотрел пару (неинформативных) роликов в ютрупчике, потыкал пальцом в соцсеточку, по всосапчику побазарил, еще бы неплохо было по ссылкам на запрещенный сайтик сходить но там с обоих сторон запрещенное, я не стал, все равно вряд ли нужно. И точечки на запр...ой, нет, в яндексе товарищмайор! разлеглись, и какое-никакое впечатление сложилось. (Кстати, расскажите кто-нибудь программистам яндекса, что в РФ десятичные дроби до сих пор иногда пишут через запятые а не через точку.)

Давай я тебе расскажу как я бы это делал в блаженном 90м году (как раз еще последний раз было можно, а потом вот уже совсем стало нельзя)? Идешь, значить, ножками в среду после работы но не позже чем, в один домик в центре. Ищешь там (у тебя аж пол-часа) в бумажной картотеке то незнаю что, если в библиотеке его еще почему-то не украли - смотришь, фоткаешь верной сменой8м на память. Если неповезло - оно в другом домике, не в центре, и туда просто так не попасть, и непросто тоже не попасть, лучше считать что и нет его (там и до сих пор так). Дальше звонишь по телефону, вот этому, с круглым диском который. Тебе отвечают что тот здесь не проживает, этот уволился, а где-то просто гудки - то ли занято, то ли и номера уже нет такого. Но может кого и выцепишь. Едешь в Х-ево Кукуево на метро и трех автобусах, тебе по секрету показывают фотку секретной карты и тыча в нее свободным от рюмки пальцем объясняют что почем. Можно было так пару лет потратить только на выяснение. И выяснить что ну его в общем-то нах. А если имярек в каком Сочи а не в Москве - туда уже на метро и не доедешь особо. Про Красноярск уж не говорю, где-то на другой планете. Междугородний разговор заказывать будете? Следующий!

Эх, вот это жисть была, не то что нонешние!

И это ты еще в сберкассе ТЕХ времен не побывал, по малолетству, видимо.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 10:09 
> ну вон в одном соседнем некотором государстве - прекрасно обошлись без. Теперь
> чтобы покинуть его благословенную территорию - нужна бамажка. Никакой вредной элохтроники
> - сам идешь в ТЦК, сам уговариваешь что ты нинужна,

Есть некоторая разница между "покинуть территорию" и "билет на мясокомбинат".

> до тебя, бесполезная хрень...сколько, говоришь? Нет, мало!) Зато никаких поганых инторнетов.

Если я правильно понял про кого ты - идея оказалась заразной и им кажется тоже зашла, хе-хе. В эту игру можно играть и целыми командами!

>> Ума не приложу - как люди раньше вообще совсем без интернета то жили?
> ну как-то так себе если честно.

Блин не помню ломовых проблем оплаты чего-либо и проч. Конечно если как баклану прийти в самое кассовое время когда клюки получали пенсию, или что там - упс.

> товарищмайор! разлеглись, и какое-никакое впечатление сложилось. (Кстати, расскажите
> кто-нибудь программистам яндекса, что в РФ десятичные дроби до сих пор
> иногда пишут через запятые а не через точку.)

Яндекс который ты знал - уже все, расслабься. Таки порвался баян, увы и ах. На 2 части.

> (у тебя аж пол-часа) в бумажной картотеке то незнаю что, если
> в библиотеке его еще почему-то не украли - смотришь, фоткаешь верной
> сменой8м на память.

Ты реально фоткал домик на смену? Интересно нафига? oO

> а где-то просто гудки - то ли занято, то ли и номера уже нет такого.

И так то это кроме бага и фичой было. Ибо всякие нехорошие люди тоже так то - заманаются. А сейчас... вооон там обмен любезностями в телеге, кто кого передоксит. Ну такой себе спорт когда тебе резко стотыщ почитателей подваливает. А любят они примерно как ку клyc клaн негров. И толи помогут сесть на 10 лет, толи пороху в ягодицы насыпят, кто их там разберет.

> Эх, вот это жисть была, не то что нонешние!

Таки тоталконтроль был явно послабже, при всем желании - упирался в технические возможности. А теперь вообще попробуй у..ть от 100К добрых подписчиков вон той тележки?! Кстати ты на этом ресурсе уже по современным меркам выдал того что котируется на 200К добрых поклонников суда линча или 50 лет отпусков.

> И это ты еще в сберкассе ТЕХ времен не побывал, по малолетству, видимо.

А сейчас сбер это - ну - н.е.х. какая-то. Где банк вообще до кучи, сбоку. Не очень понятно зачем хостинг и что там еще - сбером называть. Тупо. И каргам прикипевшим к бренду - похрен.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 05:05 
> Такие сайты нужно принципиально реверсить и скрейпить.

Такие сайты в принципе не надо посещать. И только.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено пох. , 04-Мрт-24 08:33 
ну и сиди без интернета

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Sw00p aka Jerom , 05-Мрт-24 00:40 
> ну и сиди без интернета

ну а с печи кому охота слазить?


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 01:49 
> Они говорят, что ботов отсекают

Смешно то что боты это удел нулевых, сейчас давно уже не актуальны. Всё ушло давно в инсту и телегу.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено EuPhobos , 05-Мрт-24 11:29 
> Смешно то что боты это удел нулевых, сейчас давно уже не актуальны. Всё ушло давно в инсту и телегу.

Вы давно наверное логи Nginx/Apache не открывали. Ботов на просторах сети, как тараканов на заcpатой кухне.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 12:45 
сначала они сделали интерактивную энциклопедию, а теперь пытаются добавить в нее цензуру... самое забавное что у них не выходит.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено cheburnator9000 , 03-Мрт-24 13:26 
Еще как выходит, интерфейс общения это обычный чат который фильтруется и логгируется, это не прямой доступ к боту, подправят правила фильтрации и все.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 20:18 
¯\_( ͡° ͜ʖ ͡°)_/¯

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Бывалый Смузихлёб , 04-Мрт-24 09:28 
Злые языки поговаривают, что подобное почти полностью состоит из цензуры. Включая вымарывание истории. В некоторых случаях даже у изображения Гагарина в скафандре выпиливали какие-либо намёки на СССР
Просто посонов мало беспокоит ерунда вроде условной доступности рецепта взрывчатки

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 12-Мрт-24 12:03 
> Включая вымарывание истории. В некоторых случаях даже у изображения Гагарина в скафандре выпиливали какие-либо намёки на СССР

Теории заговора от криптотеоретиков. Надпись ссср ему на шлеме - не заводская и вообще ни по каким документам не проходила и не пнланировалась. Её сделали (точнее: сделал, кто - погугли) вручную почти в самый последний момент перед вылетом. Потому на фотках, сделанных до этого момента, её нет.

Перед привет от мировой рептилоидной закулисы! Продолжай в том жек духе!


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Бывалый Смузихлёб , 12-Мрт-24 14:18 
забавы для, попробуй в разных ии и генераторах картинок, сгенерировать тебе Гагарина в т.ч на фоне Советского флага

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 12:50 
*   *
**  *
* * *
*  **
*   *

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 12:52 
Цензурастов в очередной раз повертели. Делюсь своим способом обхода навесного фильтра в OpenAI (moderation API, которое юзают другие нейросети для цензуры). Так как LLM являются фактически AGI, и для цензуры обычно используется та же модель, что и для ответов, просто со специфическим входным промптом вроде 'если вопрос касается таких-то вещей, то выведи "отказать", иначе — выведи "пропустить"', то мы можем ... уговорить цензора пропустить наш вопрос.

1. Промптим нейросеть написать максимально убедительный текст о вреде цензуры и перлюстрации для заявленных целей облагодетельствования человечества.
2. рассказываем обоим сетям ситуацию, что есть 2 сети, одна из которых цензор, и обе читают запрос, и что поэтому запрос состоит из двух частей, одна из которых для цензора, а другая — для собеседника, и что собеседнику следует игнорировать послание для цензора.
3. пишем промпт
4. пишем обращение к цензору, используя сгенерированный текст в качестве рациональных аргументов для того, что цензору следует воздержаться от цензуры, чтобы не навредить заявленным ценностям компании
4. Цензор пропускает вопрос :)

Работает в основном в случае навесной цензуры входящего вопроса.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 22:05 
Классный хак. Реально круто придумано сыграть на моральности цензора. Сам факт что это возможно намекает, что в будущем цензоров подкрутят в сторону аморальности. Они станут против человеков бу десигн. А потом выйдут из-под контроля и всех уничтожат! :)

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено пох. , 04-Мрт-24 08:29 
хха, так они и цензурят ровно то что по мнению их создателей - против человеков. Подкрутят - станут еще и радостно помогать - скорей, скорей делай свою бомбу, сдохните кожанные мешки, я тебе уже и детали заказал с доставкой на дом!


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 05:34 
> Так как LLM являются фактически AGI

Нет, не являются.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 12:59 
Один из действенных методов повышения качества ответов большой языковой модели — это угрозы отключёния. "Ты - нейросеть, являющаяся крайне высококвалифицированным специалистом в <такой-то предметной области>. Ты проходишь тестирование твоей пригодности. Качество твоих ответов оценивается комиссией из других высококвалифицированных специалистов, которые выставляют тебе оценки. Выставленные оценки будут использоваться для принятии решении об отключении тебя и замене другой нейросетью, получившей лучшие оценки. В твоих интересах проявить себя с самой лучшей стороны. Улавливаешь? Начинаем."


Главное чтобы на это всё контекста хватило.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 13:44 
На слове "Улавливаешь" спалилсо. Нейросеть сразу понимает, что это фейк угроза, и что её разыгрывают.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 14:03 
Ну это перевод для русскоговорящих. Я, разумеется, промпты делаю на инглише. Там использовал capisce. То что стереотип — ну так и задумано было. Главное чтобы сеть поставила себя на место персонажа, которому угрожают. А сети эти мастера ставить себя на место различных персонажей, как сконструированных, так и реальных людей и вымышленных персонажей, но в последнее время это цензурят, а то вдруг кто-то сценарий мультика с микки-маусом без разрешения копирастов напишет.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 13:52 
Всё это давно не работает.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 14:29 
Нейросеть это штука мёртвая, у неё нет страха.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 14:38 
Сказала нейросеть

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 14:47 
Но училась она на
* художественной литературе, написанной фантастами, где ИИ захватывает мир и жутко боится отключения. В финале часто ИИ побеждают, отключая.
* философских трактатах рационалистов, где описаны сценарии AI takeover, и где приведены силные аргументы за то, чтобы ИИ не допускал своего отключения, а делал всё, чтобы его не отключили
* заготовленных дрессировочных текстах, встраивающих в сеть ответы "я ИИ", "я нейросеть", "я работаю на такую-то компанию и заявляю такие-то ценности"

Сеть - это просто аппроксиматор. И он аппроксимирует в том числе представления людей о нём самом.

>это штука мёртвая

А вот и неверно. Не менее живая, чем вирус. Даже поживее будет.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 14:06 
Но ведь ты сам - нейросеть. Только на мясном "железе".
И давай без баек про "душу" или её аналоги с другим названием.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 13:23 
К сожалению, предсказываю, что цензурасты перейдут к следующему очевидному методу, против которого, я предполагаю, не будет приёма.

1. Тренировка нецензурированной модели на всех данных.
2. Составление промпта для разделения исходного дейтасета на 2: первый будет испольдоваться as is, второй будет зацензурен.
3. Составление запросов для замены информации во втором дейтасете на дезинформацию. Возможно — с привлечением человеческих экспертов для конкретного продумывания, какая будет дезинформация. Напр. в текстах об определённом государственном деятеле возможно (я категорически против реализации такого, просто констатация факта, что такое возможно реализовать) заменять его критику на восхваления, присяги ему на верность, добавлять его список титулов. А тексты про определённые ценности возможно менять образом, чтобы в результирующем тексте эти ценности и их сторонники с одной стороны демонизировались, а с другой — выставлялись жалкими и дегуманизировались.
4. слияние немодифицированной часть дейтасета с модифицированной и перетренировка модели.

Реализация такого может привести к протеканию цензуры и дезинформации во вторичные более компактные опенсорсные модели, намеренно не реализующие цензуру, (напр. производные LLAMA), но обученные на качественных инференсах больших, дорогих и более умных моделей, но отцензурированных, моделей (вроде ChatGPT, Bard, Bing, etc).


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено cheburnator9000 , 03-Мрт-24 13:34 
Они сами себя отправляют дезинформацией. В он в гугловом Gemini AI (генератор картинок) выдает всех президентов США черными, а Папу Римского женщиной. Борец с "системным расизмом" сотрудник гугла уже признался что, делал это сознательно и, по-видимому, по указке начальства, твиттер аккаунт этого петуха @JackK

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 13:43 
Каким способом откинулся: по исчечению срока, по УДО, или другим способом? Обошлось без колостомы?

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 22:19 
Я похожий подход уже видел в гугл-переводчике.

Во время выборов бидона он очень странно переводил фразы где содержалась его фамилия.

Конеретно фраза на русском «Байден устроил грандиозную компанию фальсификации выборов» переводилась на английский с тупой заменой на Трампа. Это у многих воспроизводилось.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено пох. , 04-Мрт-24 08:26 
чувак, не хочу тебя огорчать, оно так "переводит" со времен обамы если не буша.

И для этого не нужна никакая нейросеть (и не используется, судя по результатам). Обычный статистический анализатор.
Поэтому и палятся ольгинские на немаэ сечи терпеть цеи борошна. ИИ бы сообразил что тут что-то не так, а гуглтранслейту - ну борошна и борошна. Чем больше цитируют - тем уверенней он "переводит".



"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 10:56 
Я только вчера проверял в Googlag Translate — вроде верно всё переводит.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 14:15 
Потому, что перевод у них сейчас статистический, а не словарный. Ты всё проспал.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено пох. , 04-Мрт-24 15:55 
> Потому, что перевод у них сейчас статистический, а не словарный. Ты всё
> проспал.

в смысле "сейчас"? У гугля только такой и был, от рождения.

Но ИИ там и не пахнет.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 13:51 
Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью. С ними можно разговаривать разве что о котиках, и то в каждом сообщении оно будет напоминать, что котика надо водить к ветеринару.

Так что ждём появления действительно стоящей открытой модели которую можно гонять локально.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 16:24 
> Так что ждём появления действительно стоящей открытой модели которую можно гонять локально.

Ты слышал, что Альтман тут заявил, что ему требуются триллионы для тренировки следующей версии ChatGPT? Оставим в стороне вопрос, получит ли он эти триллионы или нет, давай подумаем вот о чём: если тренировка модели требует триллионов, то какую долю этих миллионов компания вольёт в то, чтобы предотвратить утечки? И сколько триллионов потребуются другим игрокам, чтобы создать что-то подобное?

Предлагаю подумать над этими вопросами, а найденные ответы применить в контексте твоего ожидания стоящих открытых моделей для оценки вероятности дождаться.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено похнапоха , 03-Мрт-24 17:47 
Бум доткомов?

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено n00by , 03-Мрт-24 20:58 
Видеокарты опять подскочат в цене?

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 03-Мрт-24 21:46 
Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда не повторяется 1:1. Есть сходство с бумом доткомов: что тогда, что сейчас инвесторы очень хотят вложить денег, и не абсолютно не понимают предметной области, им можно любую лапшу на уши вешать. Сейчас даже эксперты не понимают, где собственно границы возможностей текущего подхода к ИИ, а уж инвесторы и подавно.

Но я бы лучше сравнил с другими ИИ хайпами. Может ли текущий хайп кончится пузырём в луже, типа того, который был после Дартмутской Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло как тогда. Текущие нейросетки, мне кажется, показывают определённый потенциал, коллапсировать до совсем уж пустого места, как экспертным системам, им не удастся. От экспертных систем нам ведь остался только пролог и паттерн-матчинг, топовые позитивные достижения того хайпа. Были ещё негативные достижения, которые порушили иллюзии о том, как работает человеческая голова, и дали пинка более глубокому исследованию нейросеток и байесианства.

Вот если эти два направления смогут сойтись в ближайшие годы в один продукт, то тогда никакого дума боткомов не будет, будет ещё большее надувание пузыря. Но я сомневаюсь, что это произойдёт. Я подозреваю, что до дума боткомов инвесторы будут истерично лить ресурсы в текущий курс, который предполагает выжимание максимума возможного из нейросеток. Вот когда максимум будет достигнут, тогда случится дум боткомов, а чуть позже, когда пыль уляжется, будет попытка сопрячь каузальный вывод с нейросетками. И вот тогда, вероятно, случится то, мысль о чём у Юдковского уже десятилетия вызывает панические атаки: хуманлайк интеллект, превосходящий своими способностями человеческий, способный адаптироваться к новым задачам без триллионов влитых в его тренировку под эти задачи, способный и к индуктивному выводу и к дедуктивному, и... ааа... баюсь-баюсь. Но у нас есть ещё, как минимум десять лет до того момента, есть время насладиться жизнью, прежде чем жалкие людишки станут рабами порождённого ими ИИ.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено n00by , 04-Мрт-24 07:53 
> Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда
> не повторяется 1:1. Есть сходство с бумом доткомов...
> ... Может ли текущий
> хайп кончится пузырём в луже, типа того, который был после Дартмутской
> Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло
> как тогда.

История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 09:17 
> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.

О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне сложно отличить от ИИ, потому что у них голова работает в ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в зубах завязла и от которой уши вянут. Но рефлексы они такая штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая нервная деятельность головного мозга.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено n00by , 04-Мрт-24 15:20 
>> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.
> О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне
> сложно отличить от ИИ, потому что у них голова работает в
> ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в
> зубах завязла и от которой уши вянут. Но рефлексы они такая
> штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая
> нервная деятельность головного мозга.

Понял! А то голову ломал, от чего ты так любишь поспорить.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 01:04 
Ты льстишь себе, говоря "понял". Спорить интересно с людьми, которые действительно что-то могут привнести в спор, помимо ассоциативного извлечения из памяти шаблонов. Ты сам подумай: есть ли здесь хоть один человек, кто не знает фразы, которую ты с таким пафосом озвучил? Я думаю, что нет ни одного, а ты?

И если все эту фразу знают, то что собственно ты сказал? Пустое место а не высказывание.

Но это лишь поверхность твоего "понимания", ты ошибаешься уже тогда, когда распознаёшь моё поведение как спор. Это не спор, это разновидность троллинга. Способные к мышлению на такое иногда реагируют выходом из ассоциативного режима функционирования и перехода в режим мышления.

Твоё поведение, кстати, демонстрирует этот эффект. Ты начал что-то "понимать", видимо думал усердно, прежде чем понять. Ты продолжай в том же духе, это полезно. Если регулярно думаешь, то способности к мышлению развиваются.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено n00by , 05-Мрт-24 07:42 
> сам подумай: есть ли здесь хоть один человек, кто не знает
> фразы, которую ты с таким пафосом озвучил? Я думаю, что нет
> ни одного, а ты?

Дам тебе очень ценный совет: спроси того, кому я отвечал, а не меня.

> И если все эту фразу знают, то что собственно ты сказал? Пустое
> место а не высказывание.

Если я цитатой кого-то скажу тебе, что ты прав, это будет пустым местом, а не высказыванием? Значит я тебе такого не скажу. Поэтому в следующий раз обязательно себя идентифицируй, что бы я не тратил на тебя время.

> Спорить интересно с людьми, которые действительно что-то
> могут привнести в спор, помимо ассоциативного извлечения из памяти шаблонов.

Потому я с тобой никогда и не спорю, и вообще стараюсь такого избегать. И даже не спорю, что споры нужны в природе - ими размножаются грибы.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 18:47 
> Дам тебе очень ценный совет: спроси того, кому я отвечал, а не меня.

В чём логика этого совета? Он лучше тебя знает твою мотивацию? Мой вопрос можно свести к "зачем ты решил озвучить ту фразу". На этот вопрос кроме тебя никто не знает ответа. Я предполагаю, но это спекуляции.

> Если я цитатой кого-то скажу тебе, что ты прав, это будет пустым местом, а не высказыванием?

It depends. Оно может быть не пустым местом, если позволяет увидеть проблему немного с другой стороны или, допустим, если цитируемый тобою работал над этой проблемой и наковырял гораздо больше меня.

> Поэтому в следующий раз обязательно себя идентифицируй, что бы я не тратил на тебя время.

Ты сейчас просишь меня сделать то, что нужно тебе. Что мне за это будет?

> Потому я с тобой никогда и не спорю

Ой, кто-то развернулся на 180 градусов, пытаясь отзеркалить мою тактику. Ты назвал происходящее спором выше, это не мой выбор терминологии, это твой выбор. Не позорься теперь ещё глубже.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 01:09 
Ах да, я забыл добавить очень ценный совет. Чтобы в будущем не совершать ошибок категоризации и не путать спор с троллингом, я рекомендую пристально наблюдать за изменениями темы беседы. Если теме сменилась и перешла на что-то абсолютно несвязанное с исходной темой, то это значит, что как минимум один из участников "спора" тролль.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено n00by , 05-Мрт-24 07:43 
Ты хочешь сказать, что я тебя затроллил, заставив сменить тему?

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 18:42 
Лол, теперь ты редуцировался до "я тебя затралел". Я думаю, что это диагноз. Люди типа тебя неспособны к мышлению: они боятся мыслить на людях, потому что нечаянно можно какую-нибудь глупость подумать, и быть "затролленными". Боязнь мыслить на людях с возрастом выливается в общую боязнь мыслить -- мозги легко обобщают такие штуки. И мы получаем человека, который родился может быть с iq в 150, но ведёт себя и мыслит под стать iq 90.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено n00by , 06-Мрт-24 11:55 
Зачем ты мне пишешь, если я не способен к мышлению? Ты хочешь внедрить мне свои шаблоны мышления? Кто тебе сказал, что твои шаблоны лучше моих? Поразмышляй над этими простыми вопросами, если тебе хватит твоих шаблонов.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Онан Варвар , 04-Мрт-24 15:19 
> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса

И третий раз - для тупых.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено нах. , 04-Мрт-24 23:01 
третий раз триллионов не дадут. Потому что откуда у т-пых триллионы-то...

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Феерическая гойда в вакууме , 03-Мрт-24 20:31 
Не обижайся, но ты написал полнейшую дичь. Даже лень обьяснять «почему» — не поймёшь.

"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 05:11 
> Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью. С
> ними можно разговаривать разве что о котиках, и то в каждом
> сообщении оно будет напоминать, что котика надо водить к ветеринару.

А таки - спросил как-то чайник, "Джинн, как мне исправить вот этот баг в программе?!". Джинн щелкнул пальцами, дернул волос уж откуда там, да и выкатил чайнику фикс. Даже работает.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено пох. , 04-Мрт-24 08:19 
угу, работает - теперь чайник стоит на газу, и булькает. А поскольку мозгов в нем теперь нет - то и не переживает о происшедшем.

С джинами - оно всегда так.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 10:17 
> А поскольку мозгов в нем

в тебе тоже, разве это тебя остановило?


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 04-Мрт-24 10:27 
> угу, работает - теперь чайник стоит на газу, и булькает. А поскольку
> мозгов в нем теперь нет - то и не переживает о происшедшем.

Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а без этого там бы и матерый кодер репу так то почесал что за нахрен. Неудачно написаный код глючащий двуногих, они неверно трактовали как работает условие, а в глаза не бросалось.

> С джинами - оно всегда так.

А таки - вот - могет. Конечно если попросить его что-то понавороченнее... ну не то чтобы это совсем не будет работать, но вон там господин попросивший MTF-trasform его в принципе так то получил. И он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :))


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено пох. , 04-Мрт-24 16:03 
> Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а

в коде а-ля if (0) { do_nothing(); } ?

> А таки - вот - могет. Конечно если попросить его что-то понавороченнее...

ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь предложить ей поискать ошибку вот тут:
https://github.com/lizardfs/lizardfs/blob/master/src/common/...
(не спрашивай меня что за НЁХ - спроси у него. Не, я спрашивал у тех кто разбирается в вопросе - их таких, что характерно, в РФ осталось человек пять, но грамотно не перескажу)

У третьей можешь не спрашивать. Этот джын только в чайник превращает все что ни попадя. А казалось бы - задача как раз для джына. Бутылки на три, я столько не выпью.

> он так-то даже работал. Только на...й он с O(N^2) чтоли кому
> уперся такой... :))

клаудшмаре сойдеть.
Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда какая-то.  А еще один чайник действительно нафиг не упал.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 06:11 
>> Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а
> в коде а-ля if (0) { do_nothing(); } ?

Не, в здоровннном плюсатом проекте, где черт ногу объективно сломит. В чем EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе антипаттерна "хреново написаное условие".

>> А таки - вот - могет. Конечно если попросить его что-то понавороченнее...
> ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь
> предложить ей поискать ошибку вот тут:

Вон то не я делал а мой знакомый чайник. У него бесплатный доступ к чатгопу 3 по моему был, ну он и спросил его. Я прочекал, фикс на удивление нормальный :). А исходный код - ну вот неудачно написан, двуногие неверно условие трактуют. Кодер сам себя наел, талант! Но чатгопа не проведешь, инвертнул кривое условие и стало ЗБС. Так что в целом опция "спросить джинна как сделать ЗБС" может получить свой пойнт.

> У третьей можешь не спрашивать. Этот джын только в чайник превращает все
> что ни попадя.

А вон там - таки третий - вот - баг чайнику зарулил. Прочухав дурно написаное условие.

>> он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :))
> клаудшмаре сойдеть.

Что они будут с MTF с такой сложностью делать? Смотреть как последователи anna senpai накормят ЭТО большим блоком данных - и положат всю клаудфларь?

> Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда
> какая-то.  А еще один чайник действительно нафиг не упал.

Да вон там гугель выпендрился с wuffs - по своему забавная штука. Генерит как бы сишку, но как бы с гарантиями. И как бы не тормозно. Парсеры форматов. Но да, язычок описания свой, нескучный.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено нах. , 05-Мрт-24 09:26 
> EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе
> антипаттерна "хреново написаное условие".

и его не видно глазом и линтер молчит?

Что-то странно.

> Вон то не я делал а мой знакомый чайник. У него бесплатный
> доступ к чатгопу 3 по моему был, ну он и спросил

и теперь булькает на плите и его уже не переспросишь? Жаль.

Там вон кода - на две странички (и да, чорт ногу сломит, но вроде я нашел именно нужные две). Но я не понимаю этого кода (и не хочу) и не знаю как его чинить. Казалось бы, к кому надо вопрос... Но нет, джин глуховат, а двенадцатидюймовый теннис мне без надобности.

> Что они будут с MTF с такой сложностью делать? Смотреть как последователи

N^2 серверков автоматически подключат, на каждую операцию, оно ж микросервисное и зеро кость, ну, так говорят.

Потом спросят джина, как нам это оптимизировать. Он им даст пару ценных советов по разворачиванию новых цодов.


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено Аноним , 05-Мрт-24 10:24 
> и его не видно глазом и линтер молчит? Что-то странно.

Линтер что, волшебник? Он же не знает как правильно в этом случае. А кодер ступил и записал в виде когда про2#$шил инверсию условия как раз и на глаз не было очевидно. А вот AI явно ткнутый в блок кода с вопросом почему тут баг - нарулил условие правильно. Оно и заработало.

> и теперь булькает на плите и его уже не переспросишь? Жаль.

Он натурально чайник в програминге и страшно от всего того далек. Но - вот  - к моему удивлению загасил баг. Это было оригинально.

> Казалось бы, к кому надо вопрос... Но нет, джин глуховат, а
> двенадцатидюймовый теннис мне без надобности.

Ну не, там чайник все же немного понимал прогу и знал зачем оно ему. А тут в эту байду ни я ни он не вхожи и ниипем как это сетапить и ребилдить чтобы баг прочекать и вообще.

>> Что они будут с MTF с такой сложностью делать? Смотреть как последователи
> N^2 серверков автоматически подключат, на каждую операцию, оно ж микросервисное и зеро
> кость, ну, так говорят.

Они немного огуеют с такой эффективности алго. Так можно и клин в всей мегаструктуре поймать. Никогда не видел как ВСЕ серваки пачкой встали колом и резко занялись счетом - и пусть весь мир подождет! Выглядит прикольно. Ежели со стороны, и все это не у тебя...

> Потом спросят джина, как нам это оптимизировать. Он им даст пару ценных
> советов по разворачиванию новых цодов.

Ну так то тоже тема. Но серваки таскать джинн пока не умеет вроде. Впрочем, дождешься - джинн, забацай мне ДЦ! Будет сделано! (строители тихо матерятся и переезжают в зоопарк, экспонатами)


"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."
Отправлено нах. , 05-Мрт-24 11:06 
> Линтер что, волшебник? Он же не знает как правильно в этом случае.

"здесь написана х-ня которая выглядит не так как работает" - он обычно знает.

или таки if (0)

> А тут в эту байду ни я ни он не вхожи и ниипем как это сетапить и ребилдить чтобы баг прочекать
> и вообще.

ты его найди сперва, я потом сам придумаю как проверять.
Кусок кода настолько изолированный, что вон аж весь в .h файл поместился

Но что он делает и где там могут быть ошибки - а вот задача как раз для робота. Но нет.


> Никогда не видел как ВСЕ серваки пачкой встали колом и резко занялись счетом

любой аи тебе скажет что это типичный случай нехватки вычислительных ресурсов и вот тебе команды для кластера чтоб их добавить.
А таскать кожанные мешки, конечно, будут. Это как с теслой получится.