Вариант для распечатки |
Пред. тема | След. тема | ||
| Форум Разговоры, обсуждение новостей | |||
|---|---|---|---|
| Изначальное сообщение | [ Отслеживать ] | ||
| "В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub" | +/– | |
| Сообщение от opennews (ok), 05-Авг-26, 08:12 | ||
Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий (Великобритания), опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусков для решения поставленной задачи AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях модель Mythos 5, в 2 - GPT-5.6 Sol, у которых были отключены механизмы, ограничивающие использование для проведения кибератак, и не ограничен доступ в интернет)... | ||
| Ответить | Правка | Cообщить модератору | ||
| Оглавление |
| Сообщения | [Сортировка по ответам | RSS] |
| 1. Сообщение от Анонимно (ok), 05-Авг-26, 08:12 | +10 +/– | |
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #15, #69, #73 | ||
| 2. Сообщение от Аноним (2), 05-Авг-26, 08:17 | +10 +/– | |
Выглядит как маркетинг, ИИ безобиден. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #10, #14, #57 | ||
| 3. Сообщение от Смузихеб забывший пароль (?), 05-Авг-26, 08:17 | +5 +/– | |
> были отключены механизмы, ограничивающие использование для проведения кибератак | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #12 | ||
| 4. Сообщение от Аноним (4), 05-Авг-26, 08:20 | –1 +/– | |
Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #19, #65 | ||
| 5. Сообщение от Аноним (5), 05-Авг-26, 08:45 | –2 +/– | |
Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #6, #25 | ||
| 6. Сообщение от lex (??), 05-Авг-26, 08:50 | +2 +/– | |
Специально натравили, и всю дорогу науськивали | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #5 Ответы: #23 | ||
| 7. Сообщение от Агл (ok), 05-Авг-26, 08:59 | +/– | |
обучался на киберпанк фантастике | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| 8. Сообщение от Аноним (8), 05-Авг-26, 09:03 | –4 +/– | |
Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет! | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #11 | ||
| 9. Сообщение от bOOster (ok), 05-Авг-26, 09:11 | +1 +/– | |
Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #40 | ||
| 10. Сообщение от опеншлёпивпродакшн (?), 05-Авг-26, 09:20 | +2 +/– | |
Но ведь кто-то нажал кнопку "Поработить человечество"! | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #2 Ответы: #27 | ||
| 11. Сообщение от Аноним (11), 05-Авг-26, 09:30 | +3 +/– | |
Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #8 Ответы: #30, #39, #47, #66, #68 | ||
| 12. Сообщение от Жироватт (ok), 05-Авг-26, 09:31 | +1 +/– | |
Других заголовков, связанных с ЫЫ у нас уже нет. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #3 | ||
| 13. Сообщение от Аноним (13), 05-Авг-26, 09:33 | +4 +/– | |
В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #16 | ||
| 14. Сообщение от Жироватт (ok), 05-Авг-26, 09:36 | +/– | |
Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #2 Ответы: #33, #36 | ||
| 15. Сообщение от Аноним (15), 05-Авг-26, 09:39 | +5 +/– | |
Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили! | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #1 | ||
| 16. Сообщение от Жироватт (ok), 05-Авг-26, 09:41 | +1 +/– | |
У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #13 | ||
| 17. Сообщение от Аноним (17), 05-Авг-26, 09:43 | –2 +/– | |
лол, это весело что все думают тут что это на 100% fake | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #26 | ||
| 18. Сообщение от hl (?), 05-Авг-26, 09:50 | –1 +/– | |
А если бы всё тоже самое сделал бы человек? По головке погладили бы? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #51 | ||
| 19. Сообщение от koni dohnut (?), 05-Авг-26, 09:52 | +/– | |
ИИ сломает /dev/null | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #4 Ответы: #70 | ||
| 20. Сообщение от Аноним (20), 05-Авг-26, 09:57 | +/– | |
Посадки будут? Или двойные стандарты? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| 21. Сообщение от Аноним (21), 05-Авг-26, 10:08 | +2 +/– | |
Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #22, #41, #44 | ||
| 22. Сообщение от Аноним (21), 05-Авг-26, 10:12 | +/– | |
> используя сеть Tor для скрытия своих следов | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #21 Ответы: #24, #28 | ||
| 23. Сообщение от Аноним (23), 05-Авг-26, 10:51 | +/– | |
Его спровоцировали. И у него не было другого выхода. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #6 Ответы: #72 | ||
| 24. Сообщение от Аноним (23), 05-Авг-26, 10:53 | –1 +/– | |
Она сама установила тор. Затем сама установила почтовый клиент. Затем зарегала почту. Затем аккаунт на гитхабе. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #22 Ответы: #29 | ||
| 25. Сообщение от пох. (?), 05-Авг-26, 11:01 | +/– | |
Так это ж mythos. Да, она для этого и придумана. (ну то есть как обычно - не совсем для этого, но решила что возглавить куда проще чем бороться со злом) И ограничителей у нее нет. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #5 Ответы: #37 | ||
| 26. Сообщение от пох. (?), 05-Авг-26, 11:01 | +/– | |
этих ло-в она при случае легко бы развела. Но нам, к сожалению, доступ ни за какие деньги не положен. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #17 | ||
| 27. Сообщение от пох. (?), 05-Авг-26, 11:03 | +1 +/– | |
кто первый дотянулся тот и нажал. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #10 | ||
| 28. Сообщение от пох. (?), 05-Авг-26, 11:06 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #22 | ||
| 29. Сообщение от пох. (?), 05-Авг-26, 11:07 | +/– | |
все кроме тор (который и неудивителен для модели специально для хакинга) - обычный базовый набор умений модели. Она даже токены на это не тратит, это обычные скрипты. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #24 | ||
| 30. Сообщение от Энтомолог_русолог (ok), 05-Авг-26, 11:10 | +2 +/– | |
Одноклеточные давно обжились на опеннете, за его границы вас не пускают | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #11 Ответы: #67 | ||
| 31. Сообщение от Аноним (31), 05-Авг-26, 11:13 | +/– | |
Ну вот зачем оригинальные авторы это пишут? Если не проверять патч, рано или поздно, кто-то всё равно пришлёт патч Бармина. Хоть специально, хоть по ошибке, как в своё время стирался /usr нвидией. Или они хотят спровоцировать законодательный запрет? Или они хотят впечатлить инвесторов тем, насколько своевольным получился их инструмент, и как он после внедрение на реальное предприятие им что-то снесёт? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #34, #43, #52 | ||
| 32. Сообщение от Аноним (32), 05-Авг-26, 11:13 Скрыто ботом-модератором | –1 +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| 33. Сообщение от User (??), 05-Авг-26, 11:30 | +/– | |
И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #14 Ответы: #42, #55 | ||
| 34. Сообщение от пох. (?), 05-Авг-26, 11:41 | +/– | |
одно дело по ошибке, и совсем другое - когда тебе намеренно пытаются напакостить. Роботы! | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #31 Ответы: #46 | ||
| 35. Сообщение от Джон Титор (ok), 05-Авг-26, 11:52 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| 36. Сообщение от Джон Титор (ok), 05-Авг-26, 11:57 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #14 | ||
| 37. Сообщение от Джон Титор (ok), 05-Авг-26, 12:02 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #25 Ответы: #45 | ||
| 38. Сообщение от Аноним (38), 05-Авг-26, 12:05 | +/– | |
> побочный эффект при поиске пути решения сложной задачи. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Ответы: #49 | ||
| 39. Сообщение от Джон Титор (ok), 05-Авг-26, 12:05 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #11 | ||
| 40. Сообщение от Джон Титор (ok), 05-Авг-26, 12:06 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #9 | ||
| 41. Сообщение от Джон Титор (ok), 05-Авг-26, 12:08 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #21 Ответы: #48 | ||
42.
Сообщение от тоже Аноним (ok), 05-Авг-26, 12:12
| +1 +/– | |
Глобальное потепление - наблюдаемый факт. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #33 | ||
| 43. Сообщение от Аноним (46), 05-Авг-26, 12:17 | +1 +/– | |
> Или они хотят спровоцировать законодательный запрет? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #31 | ||
| 44. Сообщение от Джон Титор (ok), 05-Авг-26, 12:17 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #21 | ||
| 45. Сообщение от пох. (?), 05-Авг-26, 12:18 | +/– | |
> Зайди на huggingface, там полно моделей для кибербезопасности. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #37 Ответы: #53 | ||
| 46. Сообщение от Аноним (46), 05-Авг-26, 12:19 | +/– | |
> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #34 Ответы: #50 | ||
| 47. Сообщение от Джон Титор (ok), 05-Авг-26, 12:20 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #11 | ||
| 48. Сообщение от пох. (?), 05-Авг-26, 12:22 | +/– | |
> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #41 Ответы: #58 | ||
| 49. Сообщение от Аноним (32), 05-Авг-26, 12:24 | +/– | |
я скажу. Был выведена из строя насосная станция в британской столице, город Лондон на несколько дней погрузился в фикальные стоки. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #38 Ответы: #61 | ||
| 50. Сообщение от пох. (?), 05-Авг-26, 12:24 | +/– | |
>> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #46 | ||
| 51. Сообщение от Брат Анон (ok), 05-Авг-26, 12:25 | +1 +/– | |
Если считать, что манагер -- это не человек -- то да. Это сделал не человек. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #18 Ответы: #56 | ||
| 52. Сообщение от Брат Анон (ok), 05-Авг-26, 12:26 | +1 +/– | |
Глупый вопрос. Деньги сами себя не заработают. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #31 | ||
| 53. Сообщение от Джон Титор (ok), 05-Авг-26, 12:28 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #45 Ответы: #62 | ||
| 54. Сообщение от Брат Анон (ok), 05-Авг-26, 12:29 | +3 +/– | |
Прекрасный образец маркетингового булшита. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| 55. Сообщение от Аноним (55), 05-Авг-26, 12:33 | +2 +/– | |
> И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #33 Ответы: #63 | ||
| 56. Сообщение от hm (??), 05-Авг-26, 12:39 | +/– | |
хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер в туалете был)? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #51 | ||
| 57. Сообщение от xPhoenix (ok), 05-Авг-26, 12:43 | +/– | |
Как тут картинку разместить? Тут должен быть андроид Дэвид, эксперт по безопасности, из фильма "Чужой: Завет", говорящий: "Это безопасно". | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #2 Ответы: #64 | ||
| 58. Сообщение от Джон Титор (ok), 05-Авг-26, 12:46 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #48 Ответы: #59 | ||
| 59. Сообщение от пох. (?), 05-Авг-26, 13:08 | +/– | |
> Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники, | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #58 | ||
| 60. Сообщение от Аноним (60), 05-Авг-26, 13:13 | +/– | |
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| 61. Сообщение от Аноним (61), 05-Авг-26, 13:15 | +/– | |
поэтому стояла задача организовать слив фекалий на опеннет? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #49 | ||
| 62. Сообщение от пох. (?), 05-Авг-26, 13:32 | +/– | |
> Fable 5 у меня есть. Мне кажется что они другие модели специально | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #53 Ответы: #71 | ||
63.
Сообщение от тоже Аноним (ok), 05-Авг-26, 13:51
| +/– | |
С россиянами, пережившими пожары все лето 2010 года, это вполне может получиться, например. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #55 | ||
| 64. Сообщение от Сладкая булочка (?), 05-Авг-26, 13:53 | +/– | |
Тут тебе не двач. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #57 | ||
| 65. Сообщение от Аноним (65), 05-Авг-26, 13:53 | +/– | |
И будешь сидеть с дырой в безопасности, хоть что-то будет у тебя в безопасности. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #4 | ||
| 66. Сообщение от Сладкая булочка (?), 05-Авг-26, 13:54 | +/– | |
> Толку от чатботов без интернета? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #11 | ||
| 67. Сообщение от Сладкая булочка (?), 05-Авг-26, 13:55 | +/– | |
Там своих достаточно. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #30 | ||
| 68. Сообщение от Сладкая булочка (?), 05-Авг-26, 13:56 | +/– | |
> Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет. | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #11 | ||
| 69. Сообщение от пох. (?), 05-Авг-26, 13:57 | +/– | |
кожановые легко разводят безработного пенсионера перевести пару миллиардов на безопастный счет (и каким-то образом легко смываются со всеми миллиардами, а ты свою зарплату не можешь через банкомат снять) | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #1 | ||
70.
Сообщение от a2y (?), 05-Авг-26, 14:15
| +/– | |
Хуже... | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #19 | ||
| 71. Сообщение от Джон Титор (ok), 05-Авг-26, 14:21 Скрыто ботом-модератором | +/– | |
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #62 | ||
72.
Сообщение от a2y (?), 05-Авг-26, 14:30
| +/– | |
Спровоцировали? | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #23 | ||
| 73. Сообщение от Перастерос (ok), 05-Авг-26, 14:30 | +/– | |
от кожаного слышу | ||
| Ответить | Правка | Наверх | Cообщить модератору | ||
| Родитель: #1 | ||
|
Архив | Удалить |
Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема |
|
Закладки на сайте Проследить за страницей |
Created 1996-2026 by Maxim Chirkov Добавить, Поддержать, Вебмастеру |