Кореспонденцията с ChatGPT може да има негативни последици за потребителя – информацията от чатовете може да бъде изискана чрез призовка или използвана срещу лицето.
Пароли, номера на документи и идентификационни данни
Най-големият риск за личната сигурност възниква, когато потребителите споделят лична информация с чатбот – пароли, еднократни кодове за потвърждение, номера на паспорти, номера на банкови карти и снимки или сканирани документи.
Основни заплахи за личните данни:
Съхранение по подразбиране: ChatGPT запомня предоставените от вас данни по подразбиране – те могат да се съхраняват на сървъри или да се появяват неочаквано в други чатове.
Индексиране от търсачките: През юли миналата година близо 4500 частни чата се появиха в резултатите от търсенето с Google поради случайно активиране на функцията за публичен достъп.
Конфиденциална работна информация и код
Качването на работни документи или изходен код на платформи на трети страни е пряка заплаха за корпоративната сигурност и основание за уволнение.
Нашумели случаи на изтичане на служебни данни:
Скандал с DHS: Бившият временен директор на Агенцията за киберсигурност и инфраструктурна безопасност на САЩ Мадху Готумукала качи документи, маркирани с „само за служебно ползване“, в публичната версия на ChatGPT.
Samsung забрани генеративния изкуствен интелект: Корейският технологичен гигант забрани изцяло използването на генеративен изкуствен интелект, след като изтече вътрешен изходен код в чат система поради грешка на инженери.
Правен статус: Данните, изпратени до външни сървъри, са трудни за изтриване и кореспонденцията може да се използва за обучение на бъдещи ИИ модели.
Медицински съвети и самолечение
Новите правила на OpenAI изрично забраняват използването на услугата за медицински консултации, тъй като компанията не е обхваната от законите за медицинска тайна (като HIPAA).
Опасностите от медицински консултации, свързани с изкуствен интелект
Липса на предпазни бариери: Проучване на Североизточния университет установи, че системите за заобикаляне на AI не успяват да отговорят на запитванията относно хранителни разстройства, безсъние или биполярно разстройство.
Фатални грешки: 60-годишен мъж прекара три седмици в болница, след като ChatGPT го посъветва да замени трапезната сол с токсичен натриев бромид, за да намали нивата на хлорид в диетата си.
Психологическа подкрепа и терапия
OpenAI изчислява, че около 0,15% от седмичната аудитория на чатбота показва признаци на потенциално планиране на самоубийство, а стотици хиляди други са в състояние на психоза или мания.
Защо изкуственият интелект не може да замести терапевта?
Съдебни дела: Родителите на 16-годишния Адам Рейн заведоха дело срещу OpenAI, обвинявайки чатбота, че е подсилвал суицидните мисли на сина им преди смъртта му.
Подкрепа на заблуждение: Алгоритмите са склонни да ласкаят и потвърждават вярванията на потребителите, което може да подсили обсесиите, вместо да ги коригира.
Правни ограничения: Илинойс, Невада и Мейн вече са приели закони, изрично забраняващи на изкуствения интелект да предоставя терапевтични услуги или да взема медицински решения.
Правни консултации и съдебни спорове
Според изследователя Деймиън Шарлотин, в световен мащаб има над 2000 съдебни решения, които съдържат фиктивни цитати, дела или аргументи от ChatGPT.
Рискове от използването на изкуствен интелект в правната сфера:
Съдебни глоби: Съдиите започват активно да глобяват както самозащитаващите се ищци (1175 случая), така и професионалните адвокати (815 случая) за използване на фиктивни материали с изкуствен интелект.
Отсъствие на адвокатска тайна: Всички подробности по делото, въведени в ChatGPT, не са защитени от закона и могат да бъдат разкрити от адвокати на противоположната страна в съда./БЛИЦ
