Obecnie sztuczna inteligencja ogólna (AGI) stała się kluczowym słowem kluczowym zarówno w społecznościach naukowych, jak i przemysłowych. Jeszcze kilka lat temu wielu uważało, że osiągnięcie AGI zajmie co najmniej 10 do 50 lat, a nawet uważało, że jest to niemożliwe. Obecnie takie pesymistyczne poglądy są rzadkie. Jednak w porównaniu z entuzjazmem opinii publicznej dotyczącym tej fali zmian technologicznych, wielu czołowych naukowców i liderów branży w dziedzinie AI uważa, że obecna AI ma jeszcze długą drogę do przebycia, aby przekształcić się w AGI.
Według Qi Yuana, wybitnego profesora Uniwersytetu Fudan, dyrektora Shanghai Artificial Intelligence Research Institute (SAIRI) i założyciela Trustworthy Large Model company „Infinite Lightyear”, „jednym z najwyższych przejawów AGI jest odkrywanie nieznanych praw w złożonym świecie. Mówiąc prościej, powinien to być 'AI Einstein'. Wymaga to od nas tworzenia wiarygodnych dużych modeli 'szarej skrzynki', które łączą prawdopodobieństw 'czarnej skrzynki' z logicznym rozumowaniem 'białej skrzynki'; i promowania badań podstawowych, rozwoju talentów i praktycznych zastosowań poprzez głęboką integrację technologii i przemysłu, budując w ten sposób innowacyjny ekosystem dla naukowej inteligencji”.
Podczas niedawnej konferencji World Artificial Intelligence Conference (WAIC) 2024 i Global Governance of Artificial Intelligence High-Level Meeting, SAIRI z powodzeniem zorganizowało forum tematyczne zatytułowane „Sztuczna inteligencja: zmiana paradygmatu w badaniach naukowych i rozwoju przemysłowym”. Było to pierwsze wystąpienie tej nowej instytucji badawczej na WAIC. SAIRI można postrzegać jako model eksploracji przez Szanghaj ekosystemu naukowej inteligencji opartego na innowacjach „1+1+N”. Model ten obejmuje SAIRI jako centralny węzeł odpowiedzialny za ogólne planowanie strategiczne, integrację zasobów oraz kluczowe badania i innowacje technologiczne, we współpracy z innym „1” Fudan University oraz kilkoma „N” uniwersytetami, instytucjami badawczymi, firmami technologicznymi, zespołami innowacyjnymi i instytucjami inwestycyjnymi, aby wspólnie promować badania naukowe, rozwój talentów, transfer technologii oraz innowacje przemysłowe i modernizację.
Standardem dla AGI powinno być stworzenie „AI Einsteina”.
Z technicznego punktu widzenia, czy coraz większe modele z większą liczbą parametrów doprowadzą do AGI? Do tej pory, ani z perspektywy samej technologii AI, ani z perspektywy zużycia energii, duże modele oparte na architekturze autoregresyjnej Transformer nie są wystarczające, aby doprowadzić do AGI. AI musi opracować nowe, godne zaufania duże modele „szarej skrzynki”. Wniosek ten opiera się na wieloletnim doświadczeniu praktycznym Qi Yuana zarówno w środowisku akademickim, jak i przemysłowym.
Dziesięć lat temu, mając na myśli „uczynienie AI użyteczną”, Qi Yuan poprowadził zespół, który po raz pierwszy zwiększył podstawowy system uczenia maszynowego Alibaby z 2 milionów parametrów do kilkuset milionów parametrów, osiągając znaczną poprawę wyników biznesowych i demonstrując zintegrowaną transformację danych, algorytmów i możliwości inżynieryjnych. To właśnie jest manifestacja Prawa Skalowania, które jest szeroko omawiane w społeczności AI.
Qi Yuan wspomina, że zespół rzeczywiście zasmakował słodyczy Prawa Skalowania: po zwiększeniu parametrów modelu stukrotnie, ogólny efekt znacznie się poprawił. „Ale teraz myślę: dlaczego nie robiliśmy wtedy jeszcze większych modeli AI? Dlaczego zatrzymaliśmy się, skoro mogliśmy pójść o krok dalej?” powiedział. „Nawet miliardy parametrów w dużych modelach to za mało; musimy zmierzać w kierunku setek miliardów, bilionów, a nawet więcej. W tamtym czasie zarówno środowisko akademickie, jak i przemysł nie miały mocy obliczeniowej, a nawet w sektorze przemysłowym osiągnięcie tak wysokiej mocy obliczeniowej wymagało bardzo wysokich kosztów, nie wspominając o środowisku akademickim”.
Qi Yuan wyjaśnia, że powodem, dla którego standardem dla AGI powinno być stworzenie „AI Einsteina”, jest to, że musi być zarówno skuteczna, jak i inteligentna. Po pierwsze, Einstein odkrył „chmury fizyki początku XX wieku” za pomocą kilku kluczowych punktów danych. AGI powinno być również w stanie odkryć i zrozumieć nieznane prawa złożonego świata. Jednak obecne duże modele nie są w stanie tego osiągnąć. Na przykład, chociaż wizualny duży model SORA symuluje świat fizyczny w niespotykanym dotąd stopniu, nadal konstruuje świat trójwymiarowy w oparciu o symulację świata dwuwymiarowego i jest daleki od dogłębnego zrozumienia świata fizycznego. Po drugie, istnieje problem zużycia energii. Ludzki mózg pracuje z mocą około 15 watów, podczas gdy pojedynczy procesor graficzny może osiągnąć szczyt kilkuset watów, nie wspominając o klastrach tysięcy lub dziesiątek tysięcy procesorów graficznych potrzebnych do trenowania ogólnych dużych modeli. Obecnie, jeśli nadal będziemy używać istniejących architektur, wymagane zużycie energii byłoby astronomiczne, co utrudniłoby osiągnięcie celu bycia skutecznym i inteligentnym.
„AI Einstein” jest również kluczowym celem AI for Science (AI4S). Inteligencja naukowa odegrała ważną rolę w przyspieszeniu rozwiązywania znanych równań fizycznych, ale musi również łączyć znane reguły z danymi, aby zmniejszyć poważne uzależnienie od danych i mocy obliczeniowej, poprawić dokładność rozumowania i przewidywania oraz zaproponować nowe teorie naukowe oparte na regułach wiedzy dostosowanych do danych. Jest to zgodne z długoterminowym celem Qi Yuana na Uniwersytecie Fudan i SAIRI — wykorzystania sztucznej inteligencji do zrozumienia złożonego świata i odkrycia nieznanych praw.
Wiarygodne pionowe modele domenowe typu „Gray Box” wspierają różne branże.
Jakie problemy należy rozwiązać, aby duże modele stały się nowymi siłami produkcyjnymi narzędzi AI? Według Qi Yuana branża dużych modeli stoi przed wieloma wspólnymi wyzwaniami, co utrudnia dopasowanie technologii, produktów i potrzeb rynkowych.
„Największym problemem z dzisiejszą implementacją dużych modeli jest to, że na pierwszy rzut oka wydaje się to przydatne, ale zawodzi w praktyce” – wyjaśnia Qi Yuan. Dzisiejsze duże modele językowe przewidują przede wszystkim następne słowo na podstawie wielu poprzednich słów, ale to podejście nie nadaje się do rygorystycznego rozumowania wieloetapowego. „Język jest narzędziem komunikacji, a nie myślenia”. Niedawno w czołowym czasopiśmie naukowym opublikowano artykuł, w tym MITNaturawskazał, że język jest potężnym narzędziem do przekazywania wiedzy kulturowej i może współewoluować z naszymi zdolnościami myślenia i rozumowania, odzwierciedlając złożoność ludzkiego poznania. Jednakże język nie generuje złożoności rozumowania.
Aby uporać się z brakiem niezawodności, niską interpretowalnością i wysokimi kosztami istniejących dużych modeli, skutecznym rozwiązaniem jest połączenie probabilistycznego rozumowania opartego na sieciach neuronowych z logicznymi obliczeniami symbolicznymi, podobnie jak w przypadku połączenia szybkiego myślenia opartego na instynkcie i wolnego myślenia opartego na logicznym rozumowaniu, opisanego w książce laureata Nagrody Nobla Daniela KahnemanaMyślenie szybkie i wolne„Można to nazwać dużym modelem „szarego pudełka”” — uważa Qi Yuan. Połączenie obliczeń symbolicznych z sieciami neuronowymi w wiarygodnym dużym modelu „szarego pudełka” może zmniejszyć „halucynacje” AI i rozwiązać problemy zawodowe w polach pionowych, wzmacniając w ten sposób różne branże i uwalniając produktywność dużych modeli.
Czym jest wiarygodny duży model „szarej skrzynki”? „Pierwotnie głębokie uczenie się było uważane za „czarną skrzynkę”. Teraz, łącząc logiczne rozumowanie z głębokim uczeniem się, mamy „szarą skrzynkę”” — wyjaśnia Qi Yuan. „Pierwotna „czarna skrzynka” pozostawiała ludzi nieświadomymi procesu, w którym dane generowały wyniki, podczas gdy duży model „szarej skrzynki”, wspomagany logicznym rozumowaniem, pozwala ludziom „znać zarówno wyniki, jak i powody, dla których się one znajdują”. Z innej perspektywy duże modele „szarej skrzynki” mogą wykorzystywać głębokie uczenie się do redukcji reguł, które nie są zgodne z obserwowanymi danymi ze świata rzeczywistego”.
Qi Yuan stwierdza, że aby AI mogła odgrywać kluczową rolę w złożonych scenariuszach w różnych branżach — czy to w finansach i ubezpieczeniach, energetyce wiatrowej i energetycznej, czy żegludze morskiej i farmaceutyce — konieczne jest połączenie systematycznej wiedzy branżowej, logiki rozumowania i mechanizmów podejmowania decyzji z dużymi modelami. Duży model „szarego pola” to nie tylko kierunek dla AGI, ale także potężne narzędzie do głębokiej penetracji pól pionowych i autentycznego rozwiązywania rzeczywistych problemów. „Z perspektywy przemysłowej to zrozumienie jest bardzo intuicyjne” — ilustruje Qi Yuan. Lekarze nie muszą zostać prawnikami, ani prawnicy nie muszą zostać ekspertami od inwestycji. Każda rola zawodowa powinna koncentrować się na swojej dziedzinie i ulepszać swoje narzędzia produktywności. Z technicznego punktu widzenia, jeśli duży model za bardzo uczy się nieistotnych zadań, może doświadczyć „katastrofalnego zapomnienia”. Na przykład, gdyby Li Bai spędzał cały swój czas na księgowości zamiast pisać poezję, jego poetycka inspiracja mogłaby stopniowo zanikać. „Zaobserwowaliśmy już, że podczas trenowania dużych modeli dla domen pionowych, jeśli model uczy się zbyt wielu niepowiązanych funkcji, może to kolidować z jego pierwotnymi możliwościami. Dlatego też opracowywanie efektywnych dużych modeli „szarej skrzynki” dla domen pionowych ma ogromną wartość w implementacji przemysłowej”.
„Uważam, że duże modele „szarego pudełka” będą odgrywać coraz ważniejszą rolę na drodze do AGI i we wdrażaniu pionowych branż domenowych. Z perspektywy metodologii bayesowskiej łączy ona naszą znaną wiedzę z ukrytymi informacjami w danych, aby odkrywać nowe prawa i rozwiązywać problemy naukowe i przemysłowe” — stwierdza Qi Yuan. W przyszłości „AI Einstein” może być również „AI Buffettem”.
Łączenie łańcucha innowacji i budowanie ekosystemu innowacji w oparciu o inteligencję naukową.
Podczas tegorocznej konferencji World Artificial Intelligence zespół Qi Yuana uruchomił godne zaufania duże modele finansowe i medyczne z setkami miliardów parametrów. Te duże modele wertykalne przewyższyły model OpenAI GPT-4 Turbo o bilionach parametrów w testach, po raz kolejny zwracając uwagę branży na implementację dużych modeli.
„Dzisiejsze przełomy w dziedzinie sztucznej inteligencji są napędzane nie tylko przez innowacje w podstawowych zasadach, ale także przez podejścia zorientowane na produkt, które odpowiadają potrzebom społecznym. Społeczeństwo wymaga nie tylko publikacji prac teoretycznych lub innowacji w modelach biznesowych, ale także głębokiej integracji innowacji technologicznych i przemysłowych opartych na pierwszych zasadach. Gdy połączymy te dwa elementy, możemy dotrzeć do bardziej błękitnych wód” — mówi Qi Yuan.
Akademia i przemysł mają różne misje. Akademia bada nowe zjawiska, podczas gdy przemysł przede wszystkim rozwiązuje problemy praktyczne. Częstym problemem na całym świecie jest to, że instytucje badawcze muszą zająć się wieloma problemami innowacji technologicznych, ale jeśli pomijają one kwestie produktyzacji i potrzeb społecznych, stają w obliczu dwóch niedociągnięć: braku rzeczywistej presji konkurencyjnej, która utrudnia udoskonalanie innowacyjnych technologii, oraz braku skutecznego sprzężenia zwrotnego z rynku, które mogłoby kierować badaniami technologicznymi.
W tym celu Qi Yuan od dawna stara się połączyć łańcuch innowacji „uniwersytety-instytuty badawcze-startupy”, aby stworzyć dobry ekosystem innowacji, który uwzględnia zarówno podstawową technologię, jak i potrzeby rynku. Kierunek produktu powinien być ukierunkowany przez popyt rynkowy i scenariusze, budując podstawową konkurencyjność produktu poprzez fundamentalną innowację.
Założona w 2023 roku firma SAIRI angażuje się w oryginalne innowacje AI for Science, które łączą wiedzę i dane. Niedawno firma SAIRI wprowadziła na rynek serię dużych modeli meteorologicznych Fuxi 2.0 do zastosowań w nowej energetyce, ubezpieczeniach, zarządzaniu miejskim i zainicjowała Smart Meteorological Innovation Ecosystem Alliance. Sojusz ten ma na celu stopniowe promowanie przemysłowych zastosowań dużych modeli meteorologicznych Fuxi 2.0. Zaufane duże modele „szarego pudełka” również postępują we wdrażaniu produktu, a Infinite Lightyear, zaufana firma zajmująca się dużymi modelami założona przez Qi Yuana, jest już ugruntowana.
Aby jeszcze bardziej promować ekosystem innowacji w zakresie inteligencji naukowej, uruchomiono drugi Światowy Konkurs Wywiadu Naukowego, zorganizowany wspólnie przez SAIRI i Fudan University, a kierowany przez wiele wydziałów, w tym Szanghajski Komitet Nauki i Technologii, Szanghajską Komisję Rozwoju i Reform, Szanghajski Komitet Ekonomiczny i Informatyczny oraz Szanghajski Komitet Edukacyjny. Konkurs oferuje miliony w nagrodach za rekrutację globalnych uczestników do eksploracji pionierskich dziedzin inteligencji naukowej. Ponadto SAIRI opracował platformę danych naukowych obejmującą multimodalne dane naukowe, która obsługuje cały łańcuch od gromadzenia i przetwarzania danych po zarządzanie i modelowanie, zapewniając wydajne przetwarzanie danych, wiarygodność i bezpieczną komunikację. W oparciu o tę platformę SAIRI i jego partnerzy zbudowali kilka wysokiej jakości zestawów danych naukowych dla nauk przyrodniczych, nauk materiałowych, nauk atmosferycznych i innych dziedzin, zapewniając cenne zasoby do badań nad inteligencją naukową. Ponadto SAIRI zainicjował Global Scientific Data Ecosystem Alliance, którego początkowymi członkami byli China Telecom Corporation, COSCO Shipping Insurance Captive, Shanghai Lingang New Area Cross-Border Data Technology i ponad dziesięć innych podmiotów. Celem sojuszu jest zbudowanie globalnej, wielodyscyplinarnej, otwartej platformy do udostępniania i gromadzenia dużych zbiorów danych badawczych poprzez współpracę między rządem, przedsiębiorstwami, uniwersytetami i instytucjami badawczymi.
„Niezależnie od tego, czy w badaniach naukowych, czy w przemyśle, nie powinniśmy wprowadzać innowacji dla samej innowacji. Mamy nadzieję na zbudowanie przyszłej AGI i aplikacji, które rozwiążą rzeczywiste problemy” — mówi Qi Yuan.