Штучний інтелект створює настільки реалістичні фотографії, що їх часто вважають справжніми. Тому Google створив водяний знак для зображень штучного інтелекту, який не вдасться видалити. Водяний знак SynthID буде непомітним для людини, але програми зможуть його легко розпізнати.
Команда Google DeepMind роками вважала, що створення чудових генеративних інструментів штучного інтелекту також потребує створення чудових інструментів для виявлення того, що було створено штучним інтелектом.
На це є багато очевидних і серйозних причин, каже генеральний директор Google DeepMind Деміс Хассабіс. «Кожного разу, коли ми говоримо про це та інші системи, ми запитуємо: «А як щодо проблеми дипфейків?»
У зв’язку з тим, що в 2024 році в США та Великій Британії настає ще один суперечливий сезон виборів, Хассабіс каже, що створення системи для ідентифікації та виявлення зображень штучного інтелекту завжди важливіше.
Хассабіс і його команда протягом останніх кількох років працювали над інструментом, який Google опублікував цього тижня. Він називається SynthID і призначений, по суті, для створення водяного знака на зображенні, створеному штучним інтелектом, таким чином, щоб це було непомітно для людського ока, але легко вловлювалося спеціальним інструментом виявлення штучного інтелекту.
Водяний знак вбудовано в пікселі зображення, але Хассабіс каже, що він не змінює саме зображення жодним помітним чином. Він стійкий до різноманітних трансформацій — обрізання, зміни розміру та всього того, що можна зробити, щоб спробувати обійти звичайні водяні знаки.
У міру вдосконалення базових моделей SynthID, за словами Хассабіса, водяний знак стане ще менш помітним для людей, але ще легше виявлятиметься інструментами DeepMind.
Наразі нова система не розкривається повністю, щоб не полегшувати зловмисникам роботу. Навіть публікація в блозі про запуск скупа на деталі, оскільки SynthID все ще нова система.
«Чим більше ви розкриєте про те, як це працює, тим легше буде хакерам і зловмисним організаціям це обійти», — каже Хассабіс.
SynthID розгортається спочатку в Google-орієнтований спосіб: клієнти Google Cloud, які використовують платформу Vertex AI компанії та генератор зображень Imagen, зможуть вставляти та виявляти водяний знак.
У міру того, як система буде тестуватися в реальному світі, Google зможе використовувати його в більшій кількості місць, ділитися більше про те, як він працює.
Зрештою, Хассабіс, схоже, сподівається, що SynthID може стати чимось на зразок стандарту для всього інтернету. Основоположні ідеї можна навіть використовувати в інших медіа, таких як відео та текст.
Після того, як Google випробував цю технологію, «питання полягає в тому, щоб її масштабувати, ділитися нею з іншими партнерами, а потім розширювати споживче рішення.
Звичайно, Google не єдина компанія з такими амбіціями. Лише минулого місяця Meta, OpenAI, Google та кілька інших найбільших імен у сфері штучного інтелекту пообіцяли створити додаткові засоби захисту та системи безпеки для свого штучного інтелекту. Ряд компаній також працює з протоколом під назвою C2PA , який використовує криптографічні метадані для позначення тегами контенту, створеного штучним інтелектом.
Запуск будь-якого інструменту виявлення штучного інтелекту гарантовано стане початком гонки озброєнь. У багатьох випадках програшний: OpenAI вже відмовився від інструменту, призначеного для виявлення тексту від власного чат-боту ChatGPT.
Якщо SynthID приживеться, це лише надихне хакерів і розробників на пошук креативних шляхів обходу системи, що змусить Google DeepMind вдосконалювати систему, і вони породять замкнуте коло. Хассабіс каже, що команда готова до цього.
Читайте нас у телеграм
Загрузка ...
