Twórca ChatGPT został zbadany przez amerykańskie organy regulacyjne w związku z ryzykiem związanym ze sztuczną inteligencją

Otrzymuj bezpłatne aktualizacje sztucznej inteligencji

Wyślemy go do Ciebie Codzienny przegląd myFT Zaokrąglanie wiadomości e-mail w górę jest niedawno Sztuczna inteligencja Wiadomości każdego ranka.

Zagrożenia stwarzane przez sztucznie inteligentne chatboty są po raz pierwszy oficjalnie badane przez amerykańskie organy regulacyjne, po tym jak Federalna Komisja Handlu rozpoczęła szeroko zakrojone dochodzenie w sprawie OpenAI, twórcy ChatGPT.

W liście do firmy wsparcia Microsoftu FTC stwierdziło, że chce sprawdzić, czy chatbot AI, który tworzy fałszywe informacje na ich temat, krzywdzi ludzi i czy OpenAI angażuje się w „nieuzasadnione lub oszukańcze” praktyki w zakresie prywatności i danych. Procedury bezpieczeństwa.

Eksperci i etycy AI są na celowniku organów regulacyjnych na całym świecie w związku z ogromną ilością danych osobowych zużywanych przez technologię i jej potencjalnie szkodliwymi wynikami, od dezinformacji po seksistowskie i rasistowskie komentarze.

W maju FTC wydała ostrzeżenie dla branży, mówiąc, że „zwraca poważną uwagę na to, w jaki sposób firmy mogą zdecydować się na wykorzystanie technologii sztucznej inteligencji, w tym narzędzi sztucznej inteligencji nowej generacji, w sposób, który może mieć realny i znaczący wpływ na konsumentów”.

W swoim liście amerykański organ regulacyjny poprosił OpenAI o udostępnienie treści, począwszy od tego, jak grupa zatrzymuje informacje o użytkownikach, po środki podjęte przez firmę w celu wyeliminowania ryzyka składania „fałszywych, wprowadzających w błąd lub zniesławiających” oświadczeń.

FTC odmówiła komentarza w sprawie listu, o którym po raz pierwszy poinformował The Washington Post. Pisząc na Twitterze w czwartek później, dyrektor generalny OpenAI, Sam Altman, powiedział nazwano to „To bardzo rozczarowujące, że prośba FTC zaczyna się od przecieku i nie pomaga budować zaufania”. Dodał: „Bardzo ważne jest dla nas, aby nasza technologia była bezpieczna i przyjazna dla konsumentów, a my jesteśmy pewni, że postępujemy zgodnie z prawem. Oczywiście będziemy współpracować z FTC.

Przewodnicząca FTC, Lina Khan, zeznawała przed Komisją Sądownictwa Izby Reprezentantów w czwartek rano i spotkała się z ostrą krytyką ze strony republikańskich prawodawców za jej twarde stanowisko w zakresie egzekwowania prawa.

Zapytany o dochodzenie podczas przesłuchania, Khan odmówił komentarza na temat dochodzenia, ale powiedział, że szersze obawy regulatora dotyczą tego, że ChatGPT i inne usługi AI „dostarczają ogromną ilość danych”. Dodano do tych firm.

Dodał: „Słyszeliśmy o doniesieniach o pokazywaniu poufnych informacji w odpowiedzi na zapytanie kogoś innego. Słyszeliśmy o zniesławieniach, oszczerczych wypowiedziach, ujawnionych nieprawdach. Jesteśmy zaniepokojeni tego rodzaju oszustwem i oszustwem.

Khan został zasypany pytaniami ze strony ustawodawców na temat jego mieszanych wyników w sądzie po tym, jak FTC poniosła w tym tygodniu poważną porażkę, starając się zablokować przejęcie Activision Blizzard przez Microsoft za 75 miliardów dolarów. FTC odwołała się od decyzji w czwartek.

W międzyczasie przewodniczący komisji, republikanin Jim Jordan, oskarżył Khana o „nękanie” Twittera po tym, jak FTC zarzuciła w sądzie, że angażował się w „nieregularne i niewłaściwe” postępowanie w egzekwowaniu nakazu zgody, który nałożył w zeszłym roku.

Kahn nie skomentował zgłoszenia Twittera, ale powiedział, że FTC jest „zaniepokojona tym, że firma przestrzega prawa”.

Eksperci są zaniepokojeni dużą ilością danych gromadzonych przez modele językowe stojące za ChatGPT. OpenAI ma ponad 100 milionów aktywnych użytkowników miesięcznie w ciągu dwóch miesięcy od jego uruchomienia. Nowa wyszukiwarka Bing firmy Microsoft, oparta na technologii OpenAI, była używana przez ponad milion osób w 169 krajach w ciągu dwóch tygodni od jej wydania w styczniu.

Użytkownicy zgłaszali, że ChatGPT sfabrykował nazwiska, daty i fakty, a także fałszywe linki do stron z wiadomościami i odniesienia do artykułów naukowych.

Dochodzenie FTC dotyczy technicznych szczegółów projektowania ChatGPT, w tym manipulowania przez firmę iluzjami i nadzoru nad jej ludzkimi recenzentami, co bezpośrednio wpływa na konsumentów. Poprosił również o informacje na temat skarg konsumentów i wysiłków firmy w celu oceny zrozumienia przez konsumentów dokładności i niezawodności chatbota.

W marcu włoski organ nadzorujący prywatność tymczasowo zablokował ChatGPT, badając gromadzenie danych osobowych przez amerykańską firmę po naruszeniu bezpieczeństwa cybernetycznego. Został przywrócony kilka tygodni później po tym, jak OpenAI uczyniło swoją politykę prywatności bardziej dostępną i wprowadziło narzędzie do weryfikacji wieku użytkowników.

Nawiązując do wcześniejszych potwierdzeń o zawodności ChatGPT, Altman napisał na Twitterze: „Jesteśmy otwarci na ograniczenia naszej technologii, zwłaszcza gdy mamy mało. A nasza nieograniczona struktura zysków oznacza, że ​​nie jesteśmy zachęcani do uzyskiwania nieograniczonych zwrotów. Jednak chatbot jest zbudowane na „latach badań nad bezpieczeństwem”. Powiedział: „Chronimy prywatność użytkowników i projektujemy nasze systemy tak, aby poznawały świat, a nie poszczególnych ludzi”.