6-те най-големи бизнес грешки, причинени от ИИ | ИИ в бизнеса #58

Как да избегнем бизнес неуспехи при внедряване на ИИ?

Бизнес неуспехите в ИИ могат да имат сериозни последици за компаниите, затова е необходимо да тествате системите за машинно обучение много внимателно, преди да ги пуснете на пазара. В противен случай, големите инвестиции в нови технологии могат да завършат с голяма финансова и репутационна катастрофа.

Как да избегнете бизнес неуспехи при внедряване на изкуствен интелект? Докато първият съвет може да изглежда твърде прост, за да проработи, той е: “Обърнете внимание на качеството на данните!”

Вторият съвет се отнася до обширно тестване в затворена среда, преди инструментът да бъде пуснат на обществеността. Трябва не само да тествате техническата производителност на инструмента, но и да проверите неговото:

• етично съответствие — целта на тестовете е да се намали предразсъдъците и стереотипите, възпроизведени от ИИ,
• правно съответствие — проверка дали данните, използвани от инструментите на ИИ, както и съдържанието, което генерират, отговарят на законите на страната.

Дори гигантите в областта на изкуствения интелект не следват този съвет днес, пускайки чатботове в света, обозначени като “ранни експерименти” или “изследователски проекти.” Въпреки това, с развитието на технологията и влизането в сила на законите, регулиращи използването на изкуствен интелект, тези проблеми ще станат все по-належащи.

Google Photos

Списъкът с бизнес неуспехи, свързани с използването на изкуствен интелект, започва с случай от 2015 година. Тогава приложението Google Photos, което използваше ранна версия на изкуствен интелект за разпознаване на изображения (компютърно зрение), неправилно етикетира снимки на чернокожи хора като снимки на горили. Този бизнес неуспех се случи, защото наборът от данни, използван за обучение на алгоритъма, съдържаше твърде малко снимки на чернокожи хора.

Още повече, Google имаше подобен проблем с умната камера Nest, която неправилно идентифицираше някои тъмнокожи хора като животни. Тези инциденти показват, че системите за компютърно зрение все още имат проблеми с разпознаването на характеристиките на различни раси.

Бизнес неуспехи: Дискриминация по възраст

През 2023 година iTutor Group се съгласи да плати 365,000 долара, за да уреди иск за използване на дискриминационен софтуер за набиране на персонал. Установено е, че софтуерът автоматично е отхвърлял женски кандидати над 55 години и кандидати над 60 години, без да взема предвид техния опит или квалификации.

Amazon също претърпя подобен бизнес неуспех. Още през 2014 година компанията работеше по ИИ, за да помогне в процеса на наемане. Системата имаше проблеми с оценяването на автобиографиите на женските кандидати, защото учеше от данни, които включваха предимно документи, подадени от мъже. В резултат на това Amazon се отказа от проекта за внедряване на изкуствен интелект в процеса.

Тези случаи показват, че автоматизирането на процеса на набиране на персонал носи риска от продължаване на предразсъдъците и несправедливо третиране на кандидатите.

Източник: DALL·E 3, подтик: Марта М. Кания (https://www.linkedin.com/in/martamatyldakania/)

ChatGPT изобретява фалшиви съдебни прецеденти

Друг случай е много съвременен. През 2023 година адвокат Стивън А. Шварц използва ChatGPT, за да намери предишни правни случаи за иск срещу авиокомпанията Avianca. Въпреки това, се оказа, че поне шест от случаите, предоставени от ИИ, са фалшиви – те съдържаха неверни имена, номера на дела и цитати.

Това се случи, защото големите езикови модели (LLM) халюцинират, т.е. създават вероятни отговори, когато не могат да намерят правилните факти. Затова е необходимо да се проверяват техните отговори всеки път. А Шварц пропусна тази стъпка. Затова съдията го глобява с 5,000 долара за “груба небрежност”.

Бизнес неуспехи: Apple Watch, който не работи правилно при хора с по-тъмен тен

Според иск за колективно действие от 2021 година, приложението за кислород в кръвта на Apple Watch не работи правилно за хора с по-тъмен тен. Apple твърди, че е тествала приложението на “широк спектър от типове и тонове на кожата”, но критиците казват, че технологичните устройства все още не са проектирани с оглед на тъмнокожите хора.

Източник: DALL·E 3, подтик: Марта М. Кания (https://www.linkedin.com/in/martamatyldakania/)

Zillow в недвижимите имоти

Zillow, компания за недвижими имоти, стартира Zillow Offers, програма за закупуване на домове и бърза препродажба, през 2018 година. CNN съобщи, че Zillow е купила 27,000 дома от старта си през април 2018 година, но е продала само 17,000 до края на септември 2021 година. Zillow заяви, че бизнес неуспехът е причинен от използването на изкуствен интелект. Алгоритъмът неправилно предсказал цените на домовете, което довело до прекалено високи разходи за покупки. Въпреки че компанията незабавно затвори програмата, тя трябваше да съкрати 25 процента от персонала си. Чрез неволно закупуване на домове на цени, по-високи от текущите оценки за бъдещи продажни цени, компанията отчете загуба от 304 милиона долара.

Расисткият чатбот на Microsoft

През 2016 година Microsoft пусна експериментален ИИ чатбот на име Tay. Той трябваше да учи, като взаимодейства с потребителите на Twitter (сега X). В рамките на 16 часа, Tay “научи” да публикува обидни, расистки и сексистки туитове. Потребителите на Twitter умишлено провокираха бота, който нямаше необходимите механизми за безопасност, използвани в чатботовете днес, като ChatGPT, Microsoft Copilot и Google Bard. Microsoft бързо деактивира бота и се извини за инцидента, но Tay е един от по-големите бизнес неуспехи на Microsoft.

Бизнес неуспех също се случи на Google, който пусна бот на име Meena през 2020 година. Meta (бивш Facebook) също не успя да избегне подобна грешка. През август 2022 година, тя стартира нов ИИ чатбот на име BlenderBot 3, който беше проектиран да разговаря с хора и да учи от тези взаимодействия.

В рамките на дни след пускането му, имаше доклади за чатбота, който прави обидни, расистки и фактически неверни изказвания в разговори. Например, той твърдеше, че Доналд Тръмп е спечелил изборите в САЩ през 2020 година, разпространяваше антисемитски конспиративни теории и критикуваше Facebook.

Ако харесвате нашето съдържание, присъединете се към нашата общност на заети пчели в Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.