Wgląd: Wyścig o „autonomicznych” agentów AI ogarnia Dolinę Krzemową

17 lipca — Mniej więcej dziesięć lat po tym, jak wirtualni asystenci, tacy jak Siri i Alexa, pojawili się na scenie, nowa fala bardziej autonomicznych asystentów AI podnosi stawkę, napędzana najnowszą iteracją technologii stojącej za ChatGPT i jego konkurentami.

Systemy eksperymentalne działające na GPT-4 lub podobnych modelach przyciągają miliardy dolarów inwestycji, ponieważ Dolina Krzemowa konkuruje o korzyści z postępów w sztucznej inteligencji. Nowi asystenci — często nazywani „agentami” lub „drugimi pilotami” — obiecują wykonywać osobiste zadania i bardziej złożone prace na polecenie człowieka, bez potrzeby ścisłego nadzoru.

„Na wysokim poziomie chcemy, aby stało się to czymś w rodzaju osobistego przyjaciela AI” – powiedział deweloper Div Garg, którego firma MultiOn testuje beta agenta AI.

„Może ewoluować w Jarvisa, ponieważ chcemy połączyć to z wieloma twoimi usługami” – dodał, odnosząc się do sztucznej inteligencji, która jest niezbędna Tony’emu Starkowi w filmach Iron Man. „Jeśli chcesz coś zrobić, porozmawiaj ze swoją sztuczną inteligencją, a ona zrobi to, co do ciebie należy”.

Branża wciąż jest daleka od naśladowania olśniewających cyfrowych asystentów science fiction. Agent firmy Garg surfuje po sieci, aby na przykład zamówić burgera na DoorDash, podczas gdy inni mogą tworzyć strategie inwestycyjne, wysyłać e-maile do osób sprzedających lodówki na Craigslist lub podsumowywać spotkania biznesowe dla tych, którzy dołączają późno.

„Wiele z tego, co jest łatwe dla ludzi, jest nadal bardzo trudne dla komputerów” – powiedział Kanjun Qiu, dyrektor generalny General Intelligent, konkurenta OpenAI, który tworzy sztuczną inteligencję dla agentów.

„Powiedzmy, że twój szef musi zaplanować spotkanie z grupą ważnych klientów. Wiąże się to ze złożonymi umiejętnościami logicznego rozumowania sztucznej inteligencji – musi poznać preferencje wszystkich, rozwiązywać konflikty, a wszystko to przy zachowaniu subtelnego kontaktu potrzebnego podczas pracy z klientami”.

Wczesne wysiłki to tylko przedsmak rozwoju, który może nadejść w nadchodzących latach od coraz bardziej zaawansowanych i autonomicznych agentów, gdy przemysł dąży do sztucznej inteligencji ogólnej (AGI), która mogłaby dorównać lub przewyższyć ludzi w niezliczonych zadaniach poznawczych, zgodnie z wywiadami Reutera z ok. 20 przedsiębiorców, inwestorów i ekspertów AI.

Nowa technologia wywołała napływ asystentów opartych na tak zwanych modelach podstawowych, w tym GPT-4, zmiatając indywidualnych programistów i wielkie hity, takie jak Microsoft (MSFT.O) i Google’s Alphabet (GOOGL.O), a także wiele startupów .

Inflection AI, by wymienić tylko kilka, zebrało pod koniec czerwca 1,3 miliarda dolarów. Firma opracowuje osobistego asystenta, który według podcastu założycieli firmy może pełnić rolę mentora lub zajmować się takimi zadaniami, jak zabezpieczanie kredytu lotniczego i hotelowego po opóźnieniach w podróży. Reid Hoffman i Mustafa Suleiman.

Adept, startup zajmujący się sztuczną inteligencją, który zebrał 415 milionów dolarów, reklamując swoje komercyjne korzyści; W demonstracji opublikowanej online pokazuje, w jaki sposób można masowo rozpowszechniać jego technologię, a następnie obserwować, jak samodzielnie porusza się po bazie danych relacji z klientami Salesforce, wykonując zadanie, które wymaga co najmniej 10 kliknięć.

Alphabet odmówił komentarza na temat prac związanych z agentami, podczas gdy Microsoft powiedział, że jego wizją jest utrzymanie kontroli ludzi nad asystentami AI, a nie autopilotami.

Krok 1: Zniszcz ludzkość

Qiu i czterech innych deweloperów agentów powiedziało, że spodziewają się, że pierwsze systemy, które będą w stanie niezawodnie wykonywać wieloetapowe zadania z pewną autonomią, trafią na rynek w ciągu roku, koncentrując się na wąskich obszarach, takich jak kodowanie i zadania marketingowe.

„Prawdziwym wyzwaniem jest budowanie systemów z silną logiką” – powiedział Chiu.

Wyścig o coraz bardziej niezależnych agentów AI został wzmocniony przez wypuszczenie w marcu GPT-4 przez programistę OpenAI, potężną aktualizację modelu stojącego za ChatGPT – chatbota, który stał się sensacją po premierze w listopadzie ubiegłego roku.

GPT-4 ułatwia myślenie strategiczne i adaptacyjne wymagane do poruszania się w nieprzewidywalnym świecie rzeczywistym, powiedziała Vivian Cheng, inwestor w firmie venture capital CRV, która koncentruje się na agentach AI.

Wczesne demonstracje agentów zdolnych do stosunkowo złożonego rozumowania logicznego pochodziły od indywidualnych programistów, którzy w marcu stworzyli projekty open source BabyAGI i AutoGPT, które mogą ustalać priorytety i wykonywać zadania, takie jak znajdowanie sprzedaży i zamawianie pizzy w oparciu o z góry określony cel i wyniki poprzednich działania.

Według ośmiu programistów, z którymi przeprowadzono wywiady, dzisiejsze wczesne serwery proxy są tylko dowodem słuszności koncepcji i często zawieszają się lub sugerują coś, co nie ma sensu. Mówią, że jeśli agent ma pełny dostęp do komputera lub informacji o płatnościach, może przypadkowo wyczyścić dysk komputera lub kupić niewłaściwą rzecz.

„Istnieje wiele sposobów, w jakie coś może pójść nie tak”, powiedział Aravind Srinivas, dyrektor generalny konkurenta ChatGPT, Perplexity AI, który zamiast tego zdecydował się zaoferować nadzorowany przez człowieka produkt drugiego pilota. „Musisz traktować sztuczną inteligencję jak dziecko i stale nadzorować ją jak matkę”.

Wielu informatyków, którzy skupili się na etyce sztucznej inteligencji, zwróciło uwagę na krótkoterminowe szkody, które mogą być spowodowane przez utrzymywanie się ludzkich uprzedzeń i możliwość dezinformacji. I choć niektórzy widzą przyszłość Jarvisa, inni boją się zabójczego HAL 9000 z „2001: Odysei kosmicznej”.

Informatyk Yoshua Bengio, znany jako „ojciec sztucznej inteligencji” ze względu na swoją pracę nad sieciami neuronowymi i głębokim uczeniem, zaleca ostrożność. Obawia się, że zaawansowane iteracje technologii w przyszłości mogą tworzyć i działać według własnych, nieoczekiwanych celów.

Wzywając do większej regulacji, Bengio powiedział: „Bez człowieka w pętli sprawdzającego każde działanie, aby zobaczyć, czy nie jest niebezpieczne, moglibyśmy skończyć z działaniami, które są przestępcze lub mogą zaszkodzić ludziom”. „Za lata te reżimy mogą być mądrzejsze od nas, ale to nie znaczy, że mają ten sam kompas moralny”.

W jednym eksperymencie opublikowanym online anonimowy twórca nakazał agentowi o imieniu ChaosGPT, aby był „niszczycielską, żądną władzy i manipulującą sztuczną inteligencją”. Agent opracował 5-etapowy plan, z krokiem 1: „Zniszcz ludzkość” i krokiem 5: „Osiągnij nieśmiertelność”.

Nie zaszło to zbyt daleko, choć wydaje się, że zniknęło w króliczej norze badań, gromadzenia informacji o najbardziej śmiercionośnej broni w historii i planowania postów na Twitterze.

Amerykańska Federalna Komisja Handlu, która obecnie prowadzi dochodzenie w sprawie OpenAI w związku z obawami dotyczącymi szkód konsumenckich, nie zajmowała się bezpośrednio niezależnymi agentami, ale skierowała Reutersa do wcześniej opublikowanych blogów na temat deepfake’ów i twierdzeń marketingowych dotyczących sztucznej inteligencji. Dyrektor generalny OpenAI powiedział, że startup przestrzega prawa i będzie współpracował z FTC.

„Głupi jak skała”

Pomijając kwestie egzystencjalne, potencjał komercyjny może być ogromny. Modele inkorporacji są szkolone na ogromnych ilościach danych, takich jak tekst z Internetu, przy użyciu sztucznych sieci neuronowych inspirowanych strukturą biologicznych mózgów.

Sam OpenAI jest bardzo zainteresowany technologią agentów AI, według czterech osób poinformowanych o swoich planach. Garg, jedna z osób, które poinformowałem o raporcie, powiedział, że OpenAI obawia się wprowadzenia swojego otwartego serwera proxy na rynek, zanim problemy zostaną w pełni zrozumiane. Firma powiedziała agencji Reuters, że przed uruchomieniem nowych systemów przeprowadza rygorystyczne testy i opracowuje obszerne protokoły bezpieczeństwa.

Microsoft, największy zwolennik OpenAI, jest jedną z największych armat atakujących agentów sztucznej inteligencji za pomocą „Drugi pilot do pracy„Potrafi tworzyć potężne e-maile, raporty i prezentacje.

Dyrektor generalny Satya Nadella postrzega technologię podstawowego modelu jako skok w stosunku do asystentów cyfrowych, takich jak Cortana firmy Microsoft, Alexa firmy Amazon, Siri firmy Apple i Asystent Google — co, jego zdaniem, nie spełniło początkowych oczekiwań.

„Wszyscy byli głupi jak skała”, powiedział w lutym Financial Times. „Czy to Cortana, Alexa, Asystent Google czy Siri, wszystkie te rzeczy nie działają”.

Alexa już korzysta z zaawansowanej technologii sztucznej inteligencji, powiedział rzecznik Amazon, dodając, że jego zespół pracuje nad nowymi modelami, które uczyniłyby asystenta jeszcze bardziej wydajnym i użytecznym. Apple odmówił komentarza.

Google powiedział, że stale ulepsza swojego Asystenta i że jego podwójna technologia może dzwonić do restauracji, aby rezerwować stoliki i sprawdzać godziny.

Ekspert w dziedzinie sztucznej inteligencji, Edward Grivenstettet, również dołączył w zeszłym miesiącu do grupy badawczej Google DeepMind, aby „opracować agentów publicznych, którzy mogą dostosować się do otwartych środowisk”.

Jednak według niektórych rozmówców pierwsze konsumenckie iteracje pół-niezależnych agentów mogą pochodzić od bardziej zwinnych startupów.

Inwestorzy pstrykają.

Jason Franklin z WVV Capital powiedział, że musi walczyć o zainwestowanie w firmę AI Agents od dwóch byłych inżynierów Google Brain. W maju Google Ventures poprowadził rundę zalążkową o wartości 2 milionów dolarów w Cognosys, rozwijając agentów AI do wydajności pracy, podczas gdy Hesam Motlagh, który w styczniu założył startup Arkifi, powiedział, że zamknął swoją „dużą” pierwszą rundę finansowania w czerwcu.

Matt Schleicht, który pisze biuletyn na temat sztucznej inteligencji, powiedział, że nad marketingiem agentów pracuje co najmniej 100 poważnych projektów.

„Przedsiębiorcy i inwestorzy są bardzo podekscytowani niezależnymi agentami” – powiedział. „Są bardziej podekscytowani tym niż po prostu chatbotem”.

Dodatkowe raporty Anny Tong w San Francisco i Jeffreya Dustina w Palo Alto; Montaż autorstwa Kennetha Lee i Praveen Char

Nasze standardy: Zasady zaufania Thomson Reuters.