Детектори за съдържание с изкуствен интелект. Струват ли си? | ИИ в бизнеса #38

Днес разработчиците на детектори за AI съдържание ги представят като инструменти за защита на автентичността. Въпросът е, заслужават ли доверието и инвестицията? В тази статия ще разгледаме как работят детекторите за AI съдържание, защо могат да изчезнат, какви предизвикателства предизвикват и какви етични дилеми поставят.

Детектори за AI съдържание

Детекторите за AI съдържание се основават на езикови модели, подобни на тези, използвани за генериране на AI съдържание. Те могат да бъдат разделени на тези, чиято задача е да проверяват произхода на изображения, текстове и музика, генерирани с помощта на изкуствен интелект. Всеки тип “AI детектор” работи малко по-различно, но нито един от тях не може да различи с абсолютна сигурност между съдържание, създадено от човек, и съдържание, генерирано от AI.

Детекторите на изображения, генерирани от AI, играят все по-важна роля поради силата на медиите да генерират фалшиви новини. Те анализират аномалии, отличителни стилове и модели и търсят знаци, оставени от модели като DALL-E.

Известен сред детекторите, използвани за идентифициране на изображения, е инструментът “AI или Не” от Optic, който използва бази данни с изображения, генерирани от Midjourney, DALL-E и Stable Diffusion. Въпреки че резултатите са несигурни, това е стъпка към разработването на по-прецизни методи за идентификация в бъдеще.

Източник: AI или Не (https://www.aiornot.com/)

Зад работата на детекторите за AI, които разпознават текстове, генерирани от AI, стоят напреднали алгоритми, които анализират структурата и избора на думи в текста и след това разпознават специфични за AI модели. Те използват:

• класificатори – алгоритъм, който класифицира текст и проверява стил, тон и граматика. Например, описание на продукт, което би могло да подхожда на всеки продукт от неговия тип, може да бъде класифицирано като AI творение,
• вграждания (embeddings) – числови представяния на думи, които позволяват на машините да разберат контекста на тяхното използване. Благодарение на тях програмата “разбира”, че текст с монотонен избор на думи може да бъде работа на AI,
• перплексия – която е мярка за непредсказуемост на текста. Текстовете, написани от хора, обикновено имат по-висока перплексия, въпреки че текстовете, които по същество са прости, утилитарни в типичната си форма или написани от чужденци, могат да бъдат погрешно класифицирани като генерирани от AI,
• разнообразие (burstiness) – този фактор описва променливостта в дължината и структурата на изреченията. Хората обикновено пишат по-разнообразни текстове от изкуствения интелект.

Горепосочените елементи заедно се използват от детекторите за AI съдържание, за да оценят дали имаме работа с текст, създаден от човек, или с текст, създаден от машина.

Защо да използваме детектори за AI съдържание?

Детекторите за AI съдържание работят в различни области – от образование до маркетинг и наемане на персонал. Ето основните причини да ги имате като инструмент за оценка, но не и като окончателно доказателство дали съдържанието е генерирано:

• Идентификация на AI-модифицирани снимки на известни хора – за откриване дали снимката изобразява реална ситуация,
• Предотвратяване на дезинформация – В контекста на борбата с дезинформацията, ефективните детектори за AI съдържание помагат на модераторите в социалните медии да откриват разпространяваща се фалшива информация, за да идентифицират и премахнат повторяемо съдържание, генерирано от ботове,
• Ограничаване на публикуването на текстове с ниска стойност – детекторите за AI съдържание могат да помогнат на издателите да отхвърлят текстове, съдържащи обща информация, генерирана от ChatGPT, Bing или Bard след въвеждане на проста заявка.

Въпреки това, си струва да се помни, че произходът на текста не е основание за понижаване на ранга на сайт от Google. Блогът на Google Search Center заявява, че е ключово за Google да “награди качественото съдържание, независимо от начина, по който е създадено […]. Автоматизацията отдавна се използва за генериране на полезно съдържание, като спортни резултати, прогнози за времето и транскрипции. AI може да отвори нови нива на изразяване и креативност и да бъде ключов инструмент за подпомагане на създаването на страхотно уеб съдържание.”

Ненадеждност на детекторите за AI съдържание. Реалност или мит?

Въпреки че детекторите за AI съдържание са навсякъде, тяхната ефективност може да бъде съмнителна. Основните проблеми са:

• ниска ефективност при откриването на AI съдържание,
• проблеми с фалшиви положителни резултати, както и
• трудности при адаптиране на детекторите към бързо разнообразяващи се и подобряващи се нови AI модели.

Тестовете, проведени от OpenAI, показаха, че техният класификатор разпознава текст, генериран от GPT, само в 26% от случаите. Интересен пример за ненадеждността на генераторите може да се види в експеримент, проведен от TechCrunch, който показа, че инструментът GPTZero правилно е идентифицирал пет от седем текста, генерирани от AI. Докато класификаторът на OpenAI е идентифицирал само един.

Източник: GPTZero (https://gptzero.me/)

Освен това, съществува риск от получаване на фалшив положителен резултат, т.е. идентифициране на текст, написан от човек, като генериран от AI. Например, началото на втората глава на “Дон Кихот” от Мигел де Сервантес беше маркирано от детектора на OpenAI като най-вероятно написано от изкуствен интелект.

Докато грешките в анализа на исторически литературни текстове могат да се третират като забавна любопитност, ситуацията става по-сложна, когато искаме да използваме детекторите като инструменти за оценка на текстове. Конституцията на САЩ беше маркирана от ZeroGPT като 92.15% написана от изкуствен интелект. И, според проучване, публикувано от изследователи от Станфордския университет, 61% от есетата на TOEFL, написани от студенти, които не са носители на английски, бяха класифицирани като генерирани от AI. За съжаление, няма данни за това колко висок е процентът на текстовете, погрешно класифицирани като положителни на други езици.

Друг проблем е промяната на класификацията при последващи проверки на детектора. Това е така, защото често се случва детектор като ZeroGPT или Scribbr да променя класификацията на текстови фрагменти, които маркира веднъж като генерирани от AI и друг път като написани от човек.

Източник: Scribbr (https://www.scribbr.com/ai-detector/)

Детекторите на изображения и видеа, генерирани от AI, се използват предимно за идентифициране на дийпфейкове и друго AI-съдържание, което може да се използва за разпространение на дезинформация.

Настоящите инструменти за откриване, като Deepware, Illuminarty и FakeCatcher, не предоставят тестови резултати за тяхната надеждност. В правния контекст на откриването на визуален материал, генериран от AI, има инициативи за добавяне на водни знаци към AI изображения. Въпреки това, това е много ненадежден начин – можете просто лесно да изтеглите изображение без воден знак. Midjourney приема различен подход към воден знак, оставяйки на потребителите да решат дали искат да воден знак изображение по този начин.

Избягване на откритие от AI. Възможно ли е и как?

Предприемачите трябва да са наясно, че детекторите за AI съдържание не са заместител на човешката оценка на качеството и не винаги са надеждни. Практическите им проблеми с поддръжката могат да предизвикат значителни трудности, точно както и опитите да се избегне класифицирането на съдържанието ви като генерирано от AI. Особено когато AI е просто инструмент в ръцете на професионалист – т.е. не е “съдържание, генерирано от AI”, а по-скоро “съдържание, което е създадено в сътрудничество с AI.”

Относително е просто да добавите някого към генерираните материали, така че начинът, по който са създадени, да е наистина труден за откриване. Ако човекът, който използва генеративен AI, знае какъв ефект да постигне, може просто ръчно да коригира резултатите.

Основният въпрос е в причината зад желанието ни да избегнем откритие, ако съдържанието е генерирано от AI.

• Ако това е етичен въпрос и засяга, например, авторството на публикувани научни изследвания – остава да се разчита на професионалната етика на учените и отговорното използване на инструменти, базирани на AI.
• Ако работодателят желае служителите да се откажат от използването на AI – остава договорно споразумение за използването на генеративен изкуствен интелект.

Това поставя и въпроса дали искаме да насърчаваме отговорното използване на AI чрез забрани и критици (ZeroGPT и GPTZero!), или чрез оценяване на прозрачността, изграждането на доверие и честното използване на напреднали технологии.

Източник: ZeroGPT (https://www.zerogpt.com/)

Резюме

Отговорът на въпроса дали детекторите за AI съдържание си заслужават да се използват, е далеч от ясен. Детекторите за AI съдържание все още са в развитие и бъдещето им е трудно за предсказване. Едно е сигурно – те ще се развиват заедно с развитието на AI технологията. Напредъкът в AI, включително нарастващата способност на езиковите модели да имитират човешкия стил на писане, означава, че откритията на AI съдържание могат да станат още по-сложни. За бизнеса това е знак да следят тези развития и да не разчитат само на инструменти, а на собствената си оценка на съдържанието и неговата пригодност за целта, за която е създадено. И да използват бързо развиващия се изкуствен интелект разумно.

Ако харесвате нашето съдържание, присъединете се към нашата общност на заети пчели в Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.