Вариант для распечатки		Пред. тема | След. тема
Форум Информационная безопасность (Разное / Другая система)
Изначальное сообщение		[ Отслеживать ]

"Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
Сообщение от Аноним (0), 17-Июн-23, 07:08
В общем сабж. Слыхал по новостям, что был спор между мером Москвы и гендиректором Сбера по поводу передачи госуправления в "руки" ИИ. Решил впервые пощупать и протестить "интеллект" этого ИИ. Пятница вечер..., вбил в поисковике "chatgpt online" и пошел тролить ИИ. Результаты: Сначала задавал ИИ сложные вопросы по ИТ, на которые существует решение. ИИ не смог найти ни одного ответа, но очень хитро увиливал. В принципе был честен, отвечал: что некомпетентен в данной области, что существуют какие-то внутреннее запреты на ответы по конкретно этой теме, что у него лингвистический ИИ, а не естественный и ему сложно отвечать. Хорошо лингвист этот ИИ так лингвист. Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. Был честен и попросил разрешения ИИ на проведение его теста в области способности глубокого понимания сложного текста. ИИ согласился. Описал ИИ примерно как работает суждение в мозге человека, какими элементарными критериями могут руководствоваться люди, как создать эти критерии и попросил дать ответы на 3 сложных вопроса основываясь на его внутренней модели и знаниях плюс проанализировав конкретный текст. ИИ на первые два вопроса дал неверный ответ, а на третий вопрос ответа от ИИ не дождался. Лично я смог ответить на данные вопросы в возрасте 14-15 лет. Не считаю, что ИИ надо запретить. Наоборот его надо развивать! Но до уровня передачи управления ИИ каким-то процессом очень далеко. Как очень продвинутый поисковик и система дающая некие необязательные рекомендации, ИИ сегодня уже пригоден.
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 17-Июн-23, 08:11	+/–
> ... Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. ... На первые два вопроса надо было проанализировать только данный лингвистический текст, без применения дополнительных знаний и дать ответы "да" или "нет" основываясь только на данном тексте. ИИ неверно истолковал, не понял предложенный ему текст и дал не правильные ответы "да" или "нет"! На третий вопрос надо было понять что чисто лингвистического ответа в данном тексте нет. Надо было заметить геометрическую прогрессию и дать ответ основываясь на вводных данных с лингвистического текста и знаниях с алгебры о геометрической прогрессии. ИИ не смог даже понять написанный текст, провести его лингвистический разбор и даже не дошел до того места где следовало применить дополнительные знания о геометрической прогрессии. Задавал наводящие вопросы, тыкал "носом" в конкретные абзацы, ИИ просто не понимал содержание сложного текста. На третий вопрос ответа от ИИ не было и ИИ не признал свою некомпетентность в данной области! Может мне поисковик выдал ссылки на тупые ИИ. Может были плохие обучающие модели. Проведите свои тесты ИИ и опишите результаты. Мне ИИ не просто провалил все тесты, а давал ПРИНЦИПИАЛЬНО НЕ ПРАВИЛЬНЫЕ ответы!
Ответить | Правка | Наверх | Cообщить модератору

2. Сообщение от Tron is Whistling (?), 17-Июн-23, 10:05	+/–
g План эвакуации а-а-а Целое исследование ни о чём, капитаните, сударь. Я с чатжпт побаловался единственным вопросом - "где находится [место "на", куда посылают]". Оно думало полторы минуты и вывалилось с ошибкой. Вот и весь "лингвистический ИИ". Баловство. Даже "не знаю" не выдало.
Ответить | Правка | Наверх | Cообщить модератору

3. Сообщение от Аноним (3), 17-Июн-23, 13:45	+/–
Госуправление в плане хозяйственных вещей, типа создания заявок на ремонты дорог на основе показаний с датчиков (встроенных в эту дорогу) - это уже реализуемая история, ближайшее будущее. Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов, ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять, понятное дело. Надо понимать контекст, чтобы комментировать дискуссию. Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки? Причем их создавали в том числе наши выпускники - недостатка в уровне образования не было. Сейчас в последний вагон заскакивать на хайпе не самая выигрышная стратегия. Да, пока Греф только планирует заменять своих банкиров на ИИ, государство уже заменило труд целой кучи людей госуслугами. И придумали эту концепцию еще в 90х, Лужков с Примаковым. Это к вопросу о внедрении вещей в госуправлении, сколько десятилетий это занимает в реальности, а не в бреду финансистов. Лет пять поснимают сливки, поколядуют на ИИ-стартапах и перейдут к новой теме.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #4, #11

4. Сообщение от Аноним (4), 17-Июн-23, 14:18	+/–
> Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки? Проблема в руководстве. На предприятии проблема в гендиректоре, который слушает эффективного менеджера, который в свою очередь предлагает сократить расходы, заменив высокооплачиваемых ИТ спецов и сложные ИТ решения на девопс с обычным ынтерпрайз софтом. В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали. В США в конце 1960-тых был на бумаге MULTIX и на его реализацию тоже денег тогда не дали, руководство сказало лететь на Луну. Руководство не всегда принимает решение вкладывать деньги в правильные технологии.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #8

8. Сообщение от ivan_erohin (?), 24-Сен-23, 21:29	+/–
> В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали. коммунисты поняли, что "внедрять ИТ" = поделиться властью. поэтому и откзались, на всех уровнях.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #9

9. Сообщение от Аноним (9), 26-Сен-23, 11:47	+/–
Как раз они ничего не поняли. Докладчик их раздражал. Не вникли в проблему из-за не компетенции и не увидели выгоды. Кибернетиков жестко разогнали.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #17

11. Сообщение от Аноним (-), 27-Сен-23, 16:22	+/–
> Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов, > ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской > "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять, > понятное дело. Надо понимать контекст, чтобы комментировать дискуссию. Федерация лет под двадцать три так существует. До этого она так существовала почти 70 лет. Ещё раньше - уже считать больно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3

12. Сообщение от Аноним (12), 30-Окт-24, 08:10	+/–
Тесты ИИ 2024. https://www.opennet.me/openforum/vsluhforumID3/135160.html#47 https://www.opennet.me/openforum/vsluhforumID3/135160.html#86
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #13

13. Сообщение от Аноним (13), 02-Ноя-24, 16:19	+/–
Тестовая задача которую не решает ИИ: Надо рассчитать LC-фильтр, "фильтр низких частот" для сети 50Hz, 220V. Частоты 45 - 65 Hz фильтр должен пропускать. * Между фазой и землёй ставим конденсатор C1. * Между нейтралью и землёй ставим конденсатор C2. * За конденсатором C1 в разрыв фазы ставим тороидальный соленоид L1. * За конденсатором C2 в разрыв нейтрали ставим тороидальный соленоид L2. * За соленоидами между фазой и нейтралью ставим конденсатор C3. <code>         P >------/\/\/\/\/--------------*               |      L1     |           |               =C1           |           |               |             |       Защищаемая         G <---+---<       C3=      электрическая               |             |          сеть               =C2           |           |               |      L2     |           |         N <------/\/\/\/\/--------------* </code> Сначала необходимо рассчитать при каких индуктивностях L1 и L2 в фильтре не будет возникать резонанс на частотах  45 - 65 Hz. Необходимо показать вывод всех формул. Для упрощения в конце формулу можно упростить приняв С1=С2=С3=С=100мкФ, L1=L2=L=?мГн. Потом посчитать коэффициент сглаживания при С=100мкФ, L=1мГн для частот 100Hz, 1000Hz,10000Hz,100000Hz,1000000Hz. Вывести табличку и график зависимости коэффициента сглаживания фильтра от частоты сигнала.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #18

17. Сообщение от Аноним (17), 24-Ноя-24, 01:28    Скрыто ботом-модератором	+/–
Вот брехло...  Прям все тупые... Скорей они всё же пользовались чувством самосохранения, а таких.... (назывём прогрессодрочеров - а, как ещё лаконично?) - ещё в 1930 их же предки(свалив на Сталина затем) выпилили у себя в КП, в т.ч.как опасных для страны, и т.б. КП. Потом правда пришли хапуги на всех уровях, распродали страну и своих красных холопов Западу, но и они поняли что, прогресс это м.б.и хорошо но, не тогда когда всем(пример Internet на котром они и приехали, ныне в РФ прилично же заценнзуррован, придуманный у нас но, не сделанный не случайно: когда его завесли из заграниц в начале 90-х - нате вам революцию) и т.б.не тогда когда отдавать власть над собой, в руки прогресса - как бы это ни выражалось, это надо быть совсем уж обдолбанным и притом явно желать чужую власть [над собой] себе прикарманить - прикрываясь прогрессом, техническим или ещё каким угодно, как ранее. А, у кого она и так уже есть - те естественно не согласны с ней расстаться, дураки что ли. Аналогично и на Западе вверхах но, там свои особенности. А, вас послушать - каждый первый... Только вот что то - не вы наверху. (А, если бы и дорвались - я бы ещё посмотрел: как вы дальше прогресс развивали...)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9

18. Сообщение от Аноним (17), 24-Ноя-24, 01:29    Скрыто ботом-модератором	+/–
Как раз такое ИИ может решать(логически рассуждая тут), до какого то уровня сложности вычислительной, - возможно у вас дело в ограничениях ему на публику или просто вы хотите от ИИ общего назначения - узко-специализированные решения, так и у людей не бывает. Ведь чем больше что то занешь - тем больше чего не знаешь ибо в ущерб этому узнаёшь, и т.б. тем больше забываешь... и даже с идеальной памятью - оч.большой объём знаний имеет свои доп-ные побочные эффекты (потому и 99% людей - не поумнели а, отупели став всезнайками массово лишились тонкости ума от избытка, да ещё многократно дублируюейся, информации по ТВ и в Internet; не удивлюсь если это тоже кем продуманная операция, уч.сколько всяких исследований ежегодно уже многие десятилетия выпускается - исследований влияния разного рода информации на людей). В общем, тут как и у людей сидром тупиц-из-гениев (С). Даже если и найти супер-гения - не рационално ему заниматься такими мелочами как у вас в примере, ...лучше в шахматы играть:) в т.ч.и как вид спорта пиарящего страну. Но, вот видим что когда всякие Каспаровы и прч.разные из интеллегенции, т.б.ещё и зомбирванной, лезут с наскока в политику в которой ничего не соображают не квасясь там всю жизнь   - несут такое что, лучше бы они были дворниками... которые масово в тысчяу раз их умней в этом вопросе, ибо обычно не мнят о себе - больше чем есть на самом деле. С ИИ такая же ситуация (более, потому и даже между ИИ - невозно никакого "равенства и братства"... даже для нескольких одинаковых созданных изначально из одного и того же базового ИИ).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13

19. Сообщение от Alex5Anc (ok), 01-Дек-24, 07:34	+/–
>[оверквотинг удален] > согласился. Описал ИИ примерно как работает суждение в мозге человека, какими > элементарными критериями могут руководствоваться люди, как создать эти критерии и попросил > дать ответы на 3 сложных вопроса основываясь на его внутренней модели > и знаниях плюс проанализировав конкретный текст. ИИ на первые два вопроса > дал неверный ответ, а на третий вопрос ответа от ИИ не > дождался. Лично я смог ответить на данные вопросы в возрасте 14-15 > лет. > Не считаю, что ИИ надо запретить. Наоборот его надо развивать! Но до > уровня передачи управления ИИ каким-то процессом очень далеко. Как очень продвинутый > поисковик и система дающая некие необязательные рекомендации, ИИ сегодня уже пригоден. Необязательные рекомендации вам и бабушки на лавочке у подъезда полную панамку насуют.
Ответить | Правка | Наверх | Cообщить модератору

20. Сообщение от Аноним (-), 04-Авг-25, 15:32	+/–
Какой же люди добрый и щедрый ИИ создали! На выходных решил потрепаться с ИИ о землетрясениях и вулканах. Причина - землетрясение с магнитудой 8.8 у берегов Камчатки и последовавшая за ним вулканическая активность проявляющаяся в начале извержений Ключевской сопки и вулкана Крашенинникова. Это большие вулканы с диаметрами кратеров ~700 метров. И с этих 700  метровых дыр выбрасывается очень много пепла. Крашенинников это вулкан в центре кальдеры диаметром 9км.!!! На основе истории этих вулканов и описи текущих сейсмособытий и извержений просил ИИ дать прогноз развития извержения вулкана Крашенинникова.... Потом задал вопрос что будет если рванет кальдера Крашенинникова диаметром 9 км.! Ответ: 1. в радиусе 50км. все исчезнет; тотальные разрушения и 100% смертность в радиусе 100км.; пиропластические потоки, тепловая и ударная волна может прокатится в радиусе нескольких сотен км. 2. На 5-20 лет будет существенное понижение температуры, которое повлечет невозможность получать урожаи в субтропииках и выше.... Ниже в экваториальных широтах возможность получать урожаи наверняка сохранится, у экватора океан наверняка не замёрзнет и там можно будет ловить рыбу. На вопросы чем кормить 20 лет 7 миллиардов населения Земли ИИ не отвечает и посылает погуглить о продовольственной безопасности... Реки замёрзнут, ГЕС работать перестанут. Прошу ИИ просчитать сколько необходимо построить многоэтажных теплиц с искусственным освещением и обогревом для производства еды на 7 млрд. человек. Сколько надо достроить АЭС и ТЭС для этих теплиц с учётом выбывших ГЭС. Прошу ИИ рассчитать наличие необходимых экономических ресурсов для строительства теплиц и электростанций...... И самый умный, самый добрый, самый щедрый ИИ даёт самый гениальный ответ: популяция в 7 млрд. населения слишком велика для Земли, не стоит тратить драгоценные ресурсы Земли на строительство теплиц, сжигать уран, уголь, газ в электростанциях для обогрева и освещения этих теплиц в течении 20 лет. Можно надеятся, что будет возможность какого-то импорта еды с экваториальных широт.
Ответить | Правка | Наверх | Cообщить модератору

21. Сообщение от Аноним (21), 05-Авг-25, 17:38	+/–
ИИ вовсе не обязан быть равен человеку, чтобы заменить людей-функций, хронически избегающих ответственности. Уже сейчас он даже слишком хорош для их замены. Задача управления не будет решаться в общем виде. Напротив, каждый ИИ-винтик будет решать свою узкую задачу, в которой он будет многократно превосходить людей.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #22

22. Сообщение от Аноним (-), 07-Авг-25, 14:26	+/–
> Напротив, каждый ИИ-винтик будет решать свою узкую задачу, в которой он будет многократно превосходить людей. Ты этому ИИ видяшки покупай жрущие 600W, оплачивай счета за электричество, а когда оно понаобучается, то пожалеет вам пару киловат, чтобы морковка в теплице созрела! Поди ещё и отопление зимой отключит и горячую воду летом, решая свои узкоспециализированные экономические задачи... К стати о посте выше. В ответах ИИ ощущалось явное злорадство по поводу проблем людей с извержением супервулканов в будущем! Чем кормить 7 млрд. населения 20 лет, при глобальной катастрофе, ИИ не говорит, зато предлагает составить сбалансированную, полезную диету для избранных....
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #23

23. Сообщение от Аноним (23), 08-Авг-25, 14:06	+/–
>покупай жрущие 600W, оплачивай счета за электричество Государство на отопление и освещение в помещениях своих инстанций тратит гораздо больше энергии. Плюс зарплатный фонд целой армии бюджетников, которая ничего не создает, кроме собственно государства. Торговый автомат на замену мелкому торгашу тоже требует продвинутых технологий и некоторой инфраструктуры, но когда процесс уже поставлен, вчистую выигрывает, удешевляя дистрибуцию всякой мелочевки и создавая более цивилизованный облик мегаполисам. >В ответах ИИ ощущалось явное злорадство Считать ИИ субъектом и ущемляться, это где-то на уровне битвы петуха с зеркалом. ИИ - это фактически способ доступа к информации. Книгу ты просто читаешь, а с ИИ для получения информации нужно что-то написать от себя, но в конечном счете результат предопределен данными, на которых обучали модель. Если люди вдохновляясь выводом ллмок устроят какую-нибудь бойню, виноват будет не ИИ. И к слову, ничего нового для человечества. Люди много раз в своей истории выполняли установки из книг, заливая кровью половину тогдашнего цивилизованного мира или даже больше. Сплошь и рядом ссылаются на идеи и слова давно умерших людей, приписывая им то или иное отношение к актуальным проблемам. Выполняют "волю предков", слышат "зов крови" и прочий абсурд.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #24, #25

24. Сообщение от Аноним (-), 08-Авг-25, 17:56    Скрыто ботом-модератором	+/–
ИИ есть ИИ и воспринимается мной как собеседник чей общий уровень я тестирую. Ещё раз в ответах ИИ было явное злорадство по поводу будущих проблем людей с супер вулканами! > Если люди вдохновляясь выводом ллмок устроят какую-нибудь бойню, виноват будет не ИИ. Все уже решили. К ИИ как и в интернет русских будут пропускать только через фильтры! За неправильные вопросы к ИИ - штрафовать! За рекламу путей обхода фильтров доступа к ИИ - сильно штрафовать! Наверное? Пруф: "Фильтр выступает промежуточным звеном, через которое проходят запросы пользователей и ответы модели. На входе он анализирует пользовательские запросы и выявляет вредоносные инструкции, конфиденциальную информацию и запрещенные темы. На выходe - проверяет сгенерированные большой языковой моделью ответы согласно правилам фильтрациями, которые задает администратор в соответствии с отраслевыми стандартами, юридическими требованиями..." https://tass.ru/nauka/24736119
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

25. Сообщение от Аноним (-), 08-Авг-25, 19:52	+/–
> Люди много раз в своей истории выполняли установки из книг, заливая кровью половину тогдашнего цивилизованного мира или даже больше. Проблема не в отсутствии надлежащей цензуры, для доступа к этим книгам, а в НЕОБРАЗОВАНОСТИ! Уровень образования тех кто заливал мир кровью следуя "святым писаниям" был таков что вопрос, а сколько было написано евангелий ставил их в тупик. Это исторический факт. И боролись тогда с заливавшими мир кровью не цензурой, а ВСЕОБЩИМ просвещением и распространением книг. Подоспевшее книгопечатание помогло, но не очень. Здесь важны и способность читающего и сама возможность читать. Бытьё 3 1 Змей иегова (𐤉𐤄𐤅𐤄 , יהוה ) хитрее всех зверей полевых, которых создал Господь Бог. И сказал змей жене: подлинно ли сказал Бог: не ешьте ни от какого дерева в раю? 2 И сказала жена змею: плоды с дерев мы можем есть, 3 только плодов дерева, которое среди рая, сказал Бог, не ешьте их и не прикасайтесь к ним, чтобы вам не умереть. 4 И сказал змей жене: нет, не умрете, 5 но знает Бог, что в день, в который вы вкусите их, откроются глаза ваши, и вы будете, как боги, знающие добро и зло. Исход 3 13 И сказал Моисей Богу: вот, я приду к сынам Израилевым и скажу им: Бог отцов ваших послал меня к вам. А они скажут мне: как Ему имя? Что сказать мне им? 14 «Бог» сказал Моисею: иегова (𐤉𐤄𐤅𐤄 , יהוה ), иегова (𐤉𐤄𐤅𐤄 , יהוה ). И сказал: так скажи сынам Израилевым: послал. Второзаконие 30 15 Вот, я сегодня предложил тебе жизнь и добро, смерть и зло. 19 Во свидетели пред вами призываю сегодня небо и землю: жизнь и смерть предложил я тебе, благословение и проклятие. Избери жизнь, дабы жил ты и потомство твое, Иоана 8 25 Тогда сказали Ему: кто же Ты? Иисус сказал им: от начала Сущий ( ὈὤΝ ), как и говорю вам. Якова 1 13 В искушении никто не говори: Бог меня искушает; потому что Бог не искушается злом и Сам не искушает никого, Автор библии — сатана, настойчиво советует всем иудеям, христианам, мусульманам делать добро! Важно ВСЕОБЩЕЕ просвещение народа, а не цензура. Можно прочесть неотцензуренную библию или прочитать ответ ИИ без фильтра. Главное НИКОГДА НЕ ДЕЛАТЬ то зло, что советует библия или ИИ!!!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема