Як програми штучного інтелекту дискримінують неангломовних користувачів?
Chat GPT став справжнім відкриттям для користувачів інтернету. Його можливості значно спростили роботу людям різних професій.
Однак не все так однозначно. Дослідники виявили, що чат-бот дискримінує людей, для яких англійська мова не є рідною.
Що передувало?
Вчені проаналізували 91 есе англійською мовою, написане не носіями англійської мови за допомогою семи популярних детекторів GPT. Таким чином, науковці хотіли перевірити, наскільки добре працюють програми.
Результати дослідження показали, що більшість текстів, які були написані для загальновизнаного іспиту на знання англійської мови (TOEFL), нібито створив штучний інтелект.
Ба більше, одна з програм помилково вказала, що відсоток написаних штучним інтелектом текстів дорівнює аж 98%.
Водночас ті ж самі детектори визначили, що 90% текстів, які написали англомовні 8-класники, створила людина.
Чому так відбувається?
Учені пояснюють дискримінацію тим, як детектори відрізняють ШІ від людини. Програми аналізують на так звану “здивованість тексту” — міра “здивованості” визначається при спробі передбачити наступне слово у реченні.
Якщо алгоритм легко справляється із завданням, то здивованість тексту оцінюється як низька. Але якщо наступне слово важко передбачити, то здивованість тексту оцінюється як висока.
Тобто, якщо людина використовує прості слова і звороти — програма з більшою ймовірністю прийме її як ШІ.
Як правило, не носії мови часто використовують загальні слова і вирази. Це, власне, і спричиняє так звану дискримінацію неангломовних користувачів.
Цікаво, що після виявлення такої проблеми вчені попросили ChatGPT переписати есе для TOEFL, використовуючи складніші формулювання.
Так, коли відредаговані тексти знову пропустили через детектори, їх усіх ідентифікували як написані людиною.
Попри це, чат GPT є прекрасним інструментом для покращення роботи вчителів та навчання учнів. Зокрема, ШІ може допомогти вчителю генерувати ідеї для уроків, створювати словники до різноманітних тем, вигадувати завдання, спрощувати пошук матеріалів і навіть допомагає перевіряти домашнє завдання учнів.