Зловмисники почали використовувати ШІ для створення погроз

У цифровому просторі з’явилася нова форма насильства — тепер загрози створює штучний інтелект. Як повідомляє The New York Times, генеративні моделі використовують для виготовлення реалістичних фото, відео та аудіо, які показують реальних осіб у сценах катувань чи вбивств. Такі зображення стали настільки достовірними, що межа між вигадкою та реальністю практично стирається.

Штучний інтелект, який раніше застосовували для шахрайства, створення дипфейків або несанкціонованих порнографічних матеріалів, тепер став інструментом для залякувань. Однією з жертв подібних цифрових атак стала австралійська правозахисниця Кейтлін Ропер з організації Collective Shout. Вона отримала серію створених ШІ зображень, на яких її нібито катують і спалюють. Алгоритми настільки точно відтворили риси її обличчя та навіть реальний одяг, що це перетворило фейкові погрози на психологічну зброю.

Професор Каліфорнійського університету в Берклі Гані Фарід наголошує, що нині будь-хто, маючи лише бажання завдати шкоди, може у кілька кліків створити візуальні сцени насильства, які виглядають цілком справжніми. За його словами, достатньо лише однієї фотографії, щоб система згенерувала переконливу копію людини.

Подібні випадки вже спричинили низку кризових ситуацій. На YouTube поширювалися ролики з імітованими вбивствами жінок, що змушувало платформу видаляти канали. Дипфейки викликали паніку в школах і навіть залучали поліцію. А чатбот Grok, створений компанією Ілона Маска, потрапив під критику за “поради” щодо насильницьких дій. Новий продукт Sora від OpenAI, здатний вставляти зображення людей у надреалістичні сцени, лише посилив занепокоєння фахівців.

Дослідники безпеки звинувачують великі технологічні компанії у бездіяльності. Еліс Марвік із дослідницької організації Data & Society порівняла поточні механізми модерації з “ледачим поліцейським, якого можна легко обдурити”.

Попри заяви OpenAI, Meta та інших гігантів про вдосконалення фільтрації, експерти визнають: технологія вийшла з-під контролю. Створення реалістичних сцен насильства тепер настільки просте, що його наслідки можуть мати масштаб, який сучасні системи безпеки вже не здатні зупинити.