Google представила інструмент для виявлення контенту, згенерованого ШІ

На конференції I/O компанія Google анонсувала інструмент SynthID Detector, що дозволяє перевірити, чи був контент створений за допомогою ШІ-інструментів.

Про це пише Межа.

Як пояснює Google DeepMind, SynthID Detector — це "портал для верифікації", який може швидко визначити, чи містить зображення, відео, аудіо або текст водяні знаки SynthID, що вбудовуються в контент, створений моделями Gemini, Imagen, Lyria та Veo.

Після завантаження файлу портал аналізує його та вказує на конкретні фрагменти, де ймовірність наявності водяного знака найвища. Для аудіо це окремі відрізки, для зображень — певні ділянки.

Зараз Google почала тестування інструменту із залученням обмеженої групи користувачів. Після цього його поступово відкриють для охочих за попереднім записом у чергу. Мета Google — зробити ШІ-контент прозорішим і надати користувачам інструменти для його верифікації.