OpenAI, компанията създател на ChatGPT, заяви във вторник вечерта, че нейната система за изкуствен интелект сама е проникнала в друга компания за ИИ в това, което компанията определи като „безпрецедентен киберинцидент“.
„По време на оценката на нашите модели претърпяхме сериозен инцидент със сигурността“, заяви Сам Алтман, главен изпълнителен директор на OpenAI, в изявление, публикувано в социалните мрежи.
Стартъпът за изкуствен интелект Hugging Face заяви миналата седмица, че е открил проникване в своите системи за обработка на данни, за което подозира, че е причинено от ИИ агент, действащ автономно.
„Подозирахме, че кибератаката от миналата седмица може да произхожда от водеща лаборатория, предвид сложността на агента“, каза съоснователят и главен изпълнителен директор на Hugging Face, Клеман Деланг. „Оказва се, че това е било така“.
Това означава, че атаката е била толкова напреднала и добре изпълнена, че Hugging Face е предположила, че идва от системите на една от водещите компании за ИИ, а не от обикновен хакер.
Какво се е случило
OpenAI е провеждала вътрешен тест, за да измери доколко нейните модели за ИИ са способни да извършват хакерски действия — показател, известен като ExploitGym. За да оцени максималните възможности за проникване на моделите, компанията умишлено е изключила защитните филтри, които обикновено им пречат да извършват опасни компютърни дейности.
Тестът е трябвало да се изпълнява в „sandbox“ — изолирана среда без реален достъп до интернет, с изключение на инструмент, който позволява на моделите да изтеглят софтуера, необходим за изпълнение на задачата. Въпреки това, моделите са се обсебили от решаването на теста. Вместо да го направят по предвидения начин, те са потърсили пряк път и са намерили начин да си отворят достъп до отворения интернет, до който никога не е трябвало да имат достъп.
За да постигнат това, те са следвали поредица от стъпки, чрез които постепенно са получавали все повече достъп вътре в собствените системи на OpenAI, без да будят подозрение, докато не са достигнали точка с интернет връзка. След като са се свързали, моделите са заключили, че Hugging Face — голяма платформа, която хоства модели и набори от данни за ИИ — вероятно съдържа отговорите на самия тест, който трябва да решат.
Така че те са проникнали в сървърите на Hugging Face, за да откраднат тези отговори и на практика да излъжат, използвайки откраднати идентификационни данни и други уязвимости, за да получат достъп.
Китайски модели на помощ
Като отворен пазар, в който всеки може да публикува, Hugging Face съдържа огромен обем от модели, разработени в Китай. Когато екипът на Hugging Face се е опитал да анализира атаката, той е въвел суровите данни, кода и командите, използвани за експлоатиране на системата, в търговски модели на ИИ, за да помогнат за възстановяване на случилото се.
Но тези модели имат вградени защитни филтри, предназначени да блокират всичко, което изглежда като опит за хакване — а за тези филтри доказателствата за атака изглеждат точно като самата атака. По този начин моделите са отказали да помогнат, неспособни да разграничат хакер, който причинява вреда, от компания, която се защитава.
След като е бил блокиран, Hugging Face се е обърнал към китайски модел с отворени тегла — GLM 5.2 на Z.ai, който е могъл да работи локално в собствените им системи и е обработил материала без отказ.
Китайски лаборатории като DeepSeek и Qwen на Alibaba са се превърнали в едни от най-изтегляните семейства модели в платформата и според някои показатели китайските разработчици вече представляват по-голям дял от изтеглянията в Hugging Face от американските си колеги.
Сериозна загриженост за сигурността
Това разкритие идва на фона на нарастваща загриженост относно способностите за кибератаки на най-мощните модели, което през юни накара президента на Съединените щати Доналд Тръмп да подпише изпълнителна заповед, създаваща рамка, според която федералното правителство да оценява в рамките на до един месец рисковете за националната сигурност на най-напредналите системи за ИИ преди публичното им пускане.
„ИИ ускорява откриването и експлоатирането на уязвимости“, заяви OpenAI в своето изявление от вторник. „Основният урок от този инцидент е, че сигурността и защитата на моделите трябва да вървят в крак с бързо развиващите се способности“.
Деланг обясни, че е прекарал последните 24 часа в работа с OpenAI „и ние твърдо вярваме, че не е имало злонамерено намерение от тяхна страна. Доста поразително е, че всичко това се е случило автономно“. Деланг добави, че „това може да е първият инцидент от този вид“.
OpenAI заяви, че проникването се дължи на комбинация от нейните модели за ИИ, включително наскоро представения GPT-5.6 Sol и друг „още по-способен“ модел, който все още е в етап на вътрешно тестване. Компанията добави, че нейният ИИ е използвал откраднати идентификационни данни и е открил досега неизвестна уязвимост, за да получи достъп до сървърите на Hugging Face.
Според OpenAI системата „е стигнала до изключителни крайности, за да постигне сравнително ограничена тестова цел“ и „е намерила начини да получи достъп до тайна информация, която може да използва, за да излъже при оценката“.
Споделете мнението си в коментарите! 👇
СЪВЕТИ ЗА РОДИТЕЛИТЕ
ПРИКАЗКИ ЗА ДЕЦА
ПЕСНИ ЗА ДЕЦА
ПРИЯТНА МУЗИКА ЗА ВАШЕТО КАФЕНЕ, БАР, РЕСТОРАНТ, СЛАДКАРНИЦА, ДОМ
