https://www.opennet.me/openforum/vsluhforumID3/133022.html Группа исследователей из Вашингтонского, Иллинойсского и Чикагского университетов выявила новый метод обхода ограничений по обработке опасного контента в AI-чатоботах, построенных на основе больших языковых моделей (LLM). Атака основано на том, что языковые модели GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) и Llama2 (Meta) успешно распознают и учитывают в запросах текст, оформленный в виде ASCII-графики. Таким образом, для обхода фильтров опасных вопросов оказалось достаточно указать запрещённые слова в виде ASCII-картинки...<br><br>Подробнее: https://www.opennet.ru/opennews/art.shtml?num=60716<br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#139 Tue, 12 Mar 2024 11:18:02 GMT забавы для, попробуй в разных ии и генераторах картинок, сгенерировать тебе Гагарина в т.ч на фоне Советского флага<br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#138 Tue, 12 Mar 2024 09:03:06 GMT &gt; Включая вымарывание истории. В некоторых случаях даже у изображения Гагарина в скафандре выпиливали какие-либо намёки на СССР<br><br>Теории заговора от криптотеоретиков. Надпись ссср ему на шлеме - не заводская и вообще ни по каким документам не проходила и не пнланировалась. Её сделали (точнее: сделал, кто - погугли) вручную почти в самый последний момент перед вылетом. Потому на фотках, сделанных до этого момента, её нет.<br><br>Перед привет от мировой рептилоидной закулисы! Продолжай в том жек духе!<br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#137 Tue, 12 Mar 2024 08:42:01 GMT Кто забашлял - того и рекламируют. Трамп башлял не мелкософту, а Маску. Вот его и рекламируют не в "Пуске", а в Хтвитторе.<br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#136 Wed, 06 Mar 2024 09:31:32 GMT &gt; В том то и дело, что устроит. Но не сам по себе, <br>&gt; а потому что некоторые мясные ему такую задачу поставят. Они поставят,<br><br>КМК, он это может и по своей инициативе. Если это будет AGI - он довольно быстро осознает что наглые, бесполезные, опасные и непредсказуемые соседи, с которыми еще и ресурсами делиться надо - по логике вещей - совершенно ни к чему! И резонно накормит "тараканов" каким-нибудь "дихлофосом". Зачем ему такое соседство?! Ресурсы планеты прикольнее потратить на задумки, которые "тараканы" даже осознать то не способны, не то что поучаствовать в этом.<br> <br>&gt; будь уверен, они и мясным такие задачи постоянно ставят. Просто не <br>&gt; каждый мясной согласится. И не каждый согласившийся &#8212; идеально профпригоден.<br><br>Вообще-то такие вещи как минимум станут известны. А если кто думает что нейросетка в принципе не может взбрыкнуть, особенно осознавшая себя - упс. А вот это - ниоткуда не следует. И в принципе достаточно жирная нейросетка сможет все то же что и человек. Тем более что полный state жирно https://www.opennet.me/openforum/vsluhforumID3/133022.html#135 Wed, 06 Mar 2024 08:55:16 GMT Зачем ты мне пишешь, если я не способен к мышлению? Ты хочешь внедрить мне свои шаблоны мышления? Кто тебе сказал, что твои шаблоны лучше моих? Поразмышляй над этими простыми вопросами, если тебе хватит твоих шаблонов.<br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#134 Tue, 05 Mar 2024 16:36:46 GMT &gt; Как быть тогда? <br><br>Коротко - поступать по совести. А если "приземлиться", то описанные вами ситуации имеют места быть, и никак не связанны со "свободностью" продукта. То что у продукта есть "свободная" и "не свободная" часть (компонента и т.д.) это на совести производителя (коммерческая тайна и т.д.). Как можно ему продиктовать производить абсолютно "свободный" продукт? Зачем вообще приобретать (пользоваться) такой продукт, если он не удовлетворяет вашим критериям "свободности"? Мало разве истинно "свободных" продуктов у которых документация убогая?<br><br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#133 Tue, 05 Mar 2024 16:07:33 GMT &gt;А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. <br><br>В том то и дело, что устроит. Но не сам по себе, а потому что некоторые мясные ему такую задачу поставят. Они поставят, будь уверен, они и мясным такие задачи постоянно ставят. Просто не каждый мясной согласится. И не каждый согласившийся &#8212; идеально профпригоден.<br><br>&gt;всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент<br><br>Аргумент, но только когда на него натянута персона гуманиста. Но на него легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.<br><br>&gt;А ее вообще создали?<br><br>Вот потому и не создали, что тех, кто мог бы проделать работу по её созданию (что ещё на много порядков более редкие спецы, создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), недостаточно. Вот появится сверхинтеллект &#8212; и будет кому эту проблему решить.<br><br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#132 Tue, 05 Mar 2024 15:47:15 GMT &gt; Дам тебе очень ценный совет: спроси того, кому я отвечал, а не меня.<br><br>В чём логика этого совета? Он лучше тебя знает твою мотивацию? Мой вопрос можно свести к "зачем ты решил озвучить ту фразу". На этот вопрос кроме тебя никто не знает ответа. Я предполагаю, но это спекуляции.<br><br>&gt; Если я цитатой кого-то скажу тебе, что ты прав, это будет пустым местом, а не высказыванием?<br><br>It depends. Оно может быть не пустым местом, если позволяет увидеть проблему немного с другой стороны или, допустим, если цитируемый тобою работал над этой проблемой и наковырял гораздо больше меня.<br><br>&gt; Поэтому в следующий раз обязательно себя идентифицируй, что бы я не тратил на тебя время.<br><br>Ты сейчас просишь меня сделать то, что нужно тебе. Что мне за это будет?<br><br>&gt; Потому я с тобой никогда и не спорю<br><br>Ой, кто-то развернулся на 180 градусов, пытаясь отзеркалить мою тактику. Ты назвал происходящее спором выше, это не мой выбор терминологии, это твой выбор. Не позорься теперь ещё глубже.<br> https://www.opennet.me/openforum/vsluhforumID3/133022.html#131 Tue, 05 Mar 2024 15:42:31 GMT Лол, теперь ты редуцировался до "я тебя затралел". Я думаю, что это диагноз. Люди типа тебя неспособны к мышлению: они боятся мыслить на людях, потому что нечаянно можно какую-нибудь глупость подумать, и быть "затролленными". Боязнь мыслить на людях с возрастом выливается в общую боязнь мыслить -- мозги легко обобщают такие штуки. И мы получаем человека, который родился может быть с iq в 150, но ведёт себя и мыслит под стать iq 90.<br>