Musks seneste forudsigelse: AI kan overgå menneskelig intelligens i 2030 og kan "terminere" mennesker i fremtiden (1/2)

Kilde: Tencent Technology News 2024-04-04 08:55

Nøglepunkter:

① Musk forudsiger, at kunstig intelligens kan overgå menneskets intelligensniveau i 2030 og endda kan bringe mennesker til livs.

② Musk talte om de faktorer, der begrænser udviklingen af ​​kunstig intelligens. Sidste år var udbuddet af AI-chips stramt, og i år bliver step-down-transformatoren en flaskehals.

③ Med hensyn til, hvornår mennesker kan lande på månen, forudsiger Musk, at det med hjælp fra Starship kun vil tage tre år hurtigst.

Tencent Technology News, 4. april - Ifølge rapporter i udenlandske medier havde Elon Musk, CEO for Tesla og SpaceX, for nylig en onlinesamtale med Peter Diamandis, grundlægger af Singularity University og XPRIZE Foundation, ved Abundance Summit. Topmødet var vært for Silicon Valleys Singularity University, som er dedikeret til at give virksomhedsledere banebrydende teknologirådgivning. XPRIZE Foundation fremmer teknologisk innovation gennem videnskabelige konkurrencer, hvoraf nogle er blevet finansieret af Musk., 4. april - Ifølge rapporter i udenlandske medier havde Elon Musk, CEO for Tesla og SpaceX, for nylig en online samtale med Peter Diamandis, grundlægger af Singularity Universitet og XPRIZE Foundation, på Abundance Summit. Topmødet var vært for Silicon Valleys Singularity University, som er dedikeret til at give virksomhedsledere banebrydende teknologirådgivning. XPRIZE Foundation fremmer teknologisk innovation gennem videnskabelige konkurrencer, hvoraf nogle er finansieret af Musk.

Da Musk diskuterede udviklingshastigheden af ​​kunstig intelligens, forudsagde Musk, at baseret på den nuværende hastighed af teknologiske fremskridt, kan kunstig intelligens overgå menneskelig intelligens i 2030, og denne teknologi kan endda have potentialet til at afslutte menneskeheden. Han anlagde dog ikke et pessimistisk syn på fremtiden, men understregede, at kunstig intelligens gennem positiv vejledning har potentialet til at bringe en bedre fremtid for menneskeheden.

Musk nævnte, at fremkomsten af ​​superintelligens kaldes "singulariteten" netop på grund af dens uforudsigelige konsekvenser, herunder risikoen for potentielt at afslutte menneskeheden. Han var enig i synspunktet fra "Artificial Intelligence Godfather" Geoffrey Hinton og mente, at sandsynligheden for, at denne risiko opstår, er cirka mellem 10% og 20%.

På trods af at han anerkendte de potentielle risici ved, at kunstig intelligens overgår menneskelig intelligens, understregede Musk stadig, at muligheden for positive resultater opvejer de negative konsekvenser. Han nævnte specifikt Diamandis bog fra 2014 "Abundance: The Future Is Better Than You Think", som skildrer en optimistisk fremtid drevet af kunstig intelligens og robotter, hvor prisen på varer og tjenester er faldet markant. Derudover citerede han "Culture"-serien af ​​den skotske science fiction-forfatter Iain M. Banks som det bedste scenarie for en semi-utopisk kunstig intelligens-fremtid.

Musk sammenlignede udviklingen af ​​kunstig intelligens og kunstig generel intelligens (AGI) med at opdrage et barn, i håb om, at det vil have mere positive indvirkninger på menneskeheden. Han understregede vigtigheden af ​​at dyrke kunstig intelligens, der virkelig forstår etik og moral, og sammenlignede den med Stanley Kubricks klassiske film fra 1968 "2001: A Space Odyssey".

Musk påpegede, at det vigtigste aspekt af kunstig intelligens sikkerhed er at sikre dens maksimale sandhedssøgning og nysgerrighed. Han mener, at nøglen til at opnå ultimativ kunstig intelligens-sikkerhed ligger i at undgå at tvinge den til at lyve, selv i lyset af ubehagelige sandheder. Han brugte et plot fra "2001: A Space Odyssey" som eksempel, hvor kunstig intelligens blev tvunget til at lyve, hvilket resulterede i besætningens død, for at understrege, at kunstig intelligens ikke skal tvinges til at gøre noget, der overtræder aksiomer.

Musk nævnte også faktorer, der kan begrænse udviklingen af ​​kunstig intelligens, såsom den stramme forsyning af kunstig intelligens-chips, der dukkede op sidste år og den stigende efterspørgsel efter step-down-transformere i husholdnings- og kommercielt udstyr. Han udtalte, at disse udfordringer faktisk er aktuelle problemer, der skal løses.

Under diskussionen talte de to parter også om konceptet med at integrere den menneskelige hjernes neocortex med skyen. Selvom Musk mener, at målet med at uploade menneskelig bevidsthed og hukommelse til skyen stadig er langt væk, roste han sin hjerne-computer-interface-startup, Neuralink, og dens første menneskelige patient, der modtog en transplantation. Denne tetraplegiske patient demonstrerede med succes live gennem et FDA-godkendt forsøg, kontrollerede skærmen, spille videospil, downloade software og opnå lignende funktioner som museoperationer gennem hjerneimplantater. Musk udtalte, at Neuralink skrider frem jævnt og gradvist bevæger sig mod målet om en fuld-hjerne-grænseflade.

Følgende er den fulde tekst af dialogen mellem Musk og Diamandis:

1. Superintelligens magt og fare

Diamandis: Tillykke med dine enestående præstationer på forskellige områder. Du har aktivt promoveret konceptet digital superintelligens til verden – er det menneskehedens største håb eller vores dybeste frygt? Kan du bruge et par minutter på at tale om dette problem?

Musk: Som du ved, kan superintelligens kaldes "singulariteten". Populariseringen af ​​dette udtryk er uadskillelig fra indsatsen fra institutioner som Singularity Institute. Fremkomsten af ​​superintelligens og dens efterfølgende virkning er virkelig svær at forudsige. Personligt tror jeg, at der faktisk er en mulighed for, at det kan gøre en ende på menneskeheden. Som jeg sagde før, er jeg måske enig i Geoffrey Hintons synspunkt om, at der er 10% eller 20% chance for, at superintelligens kan gøre en ende på menneskeheden. Jeg har dog en tendens til at tro, at sandsynligheden for et positivt scenarie er højere end et negativt, selvom det er svært for os at lave præcise forudsigelser. Men som du understregede begrebet "overflod" i din bog, tror jeg, at den mest sandsynlige fremtid, vi er på vej mod, er en fuld af overflod.

Diamandis: Dit synspunkt er meget spændende. Jeg kan huske, at du engang sagde, at udviklingen af ​​generel kunstig intelligens og humanoide robotter vil føre os til overflod.

Musk: Ja, jeg håber, at vores fremtid kan blive som den, der er afbildet i Ian Banks' "Culture"-serie af bøger. Jeg tror, ​​det er den bedste opfattelse af et semi-utopisk kunstig intelligens-samfund. Fremkomsten af ​​superintelligens er uundgåelig og kan komme snart. Derfor er det, vi virkelig skal gøre, at guide det i en positiv retning og maksimere dets fordele.

Jeg tror på, at den måde, vi dyrker kunstig intelligens på, er afgørende. Til en vis grad er vi som at dyrke en livsform med generel intelligens, hvilket næsten er som at opdrage et barn, men dette barn besidder ekstraordinær visdom og talent. Måden vi opdrager børn på er vigtig, og på samme måde er det for sikkerheden ved kunstig intelligens afgørende at have en kunstig intelligens, der søger sandheden og er fuld af nysgerrighed. Jeg har reflekteret dybt over sikkerheden ved kunstig intelligens, og jeg er nået til den konklusion, at den bedste måde at opnå sikkerheden ved kunstig intelligens på er omhyggeligt at dyrke den.

Med hensyn til basismodeller og finjustering skal vi sikre ærligheden af ​​kunstig intelligens. Vi kan ikke tvinge det til at lyve, selvom sandheden kan være ubehagelig. Faktisk er et af de centrale plot i "2001 Space Odyssey", at når kunstig intelligens bliver tvunget til at lyve, bliver tingene kaotiske. Den kunstige intelligens er forbudt at informere besætningen om det mystiske monument, de vil se, men er forpligtet til at føre dem dertil. Som et resultat konkluderer den kunstige intelligens, at det er bedst at dræbe besætningen og tage deres kroppe til monumentet. Læren er dyb: Vi bør ikke tvinge kunstig intelligens til at lyve eller gøre noget, der er aksiomatisk uforeneligt, såsom at gøre to faktisk modstridende ting på samme tid.

Derfor når vi dette mål gennem projekter som xAI og Grok. Det, vi forfølger, er en kunstig intelligens, der er så ærlig som muligt, selvom dens tale måske ikke opfylder visse politisk korrekte standarder.

2. Fremtiden for kunstig intelligens

Diamandis: I går deltog jeg i en begivenhed med Ray Kurzweil (grundlægger af Singularity University og teknologiprofet), Geoffrey Hinton, Eric Schmidt (tidligere præsident for Google) og andre gæster. Jeg lagde mærke til dit tweet om Kurzweil, og hans 预见 for fremtidig teknologi er ret fremadskuende. Kurzweil forudsagde, at vi vil have generel kunstig intelligens i den nærmeste fremtid, og kunstig intelligens svarende til menneskelig intelligens vil dukke op i 2029. En sådan hastighed er chokerende. Jeg spekulerer på, hvad du synes om dette?

Musk: Jeg har stor respekt for Kurzweils forudsigelser. Faktisk tror jeg, at hans forudsigelser måske endda er lidt konservative. Ved at observere den nuværende computerkraft og talent, der er investeret i kunstig intelligens, samt den hurtige vækst af computerkraft, kan vi konstatere, at udviklingshastigheden for kunstig intelligens stiger med en forbløffende hastighed på 10 gange. Den dedikerede kunstige intelligens computerkraft ser ud til at stige med 10 gange hver 6. måned, hvilket næsten betyder en stigning på mindst 100 gange om året. Denne væksttendens vil fortsætte med at stige i de næste par år.

Det er værd at bemærke, at mange datacentre, selv de fleste datacentre, der i øjeblikket udfører konventionel databehandling, gradvist vil forvandle sig til faciliteter, der understøtter kunstig intelligens computing. Derfor indvarslede virksomheder som NVIDIA for producenter af kunstig intelligens hardware utvivlsomt en gylden udviklingsperiode. Vi må give fuld ære til Huang Renxun og hans team. De forudså denne tendens og udviklede med succes den førende kunstig intelligens-hardware på markedet i øjeblikket.

Når computerkraften vokser med sådan en forbløffende hastighed, er udviklingen af ​​kunstig intelligens som at blive injiceret med et kraftigt steroid, der springer til et helt nyt niveau. Efterhånden som antallet af online-computere fortsætter med at stige, har vi været vidne til en hidtil uset accelereret udvikling. Faktisk har jeg aldrig set nogen teknologi vokse så hurtigt som kunstig intelligens. Selvom jeg har set mange hurtigt udviklende teknologier, forbløffer fremkomsten af ​​kunstig intelligens mig stadig. Men som sagt tror jeg, at det endelige resultat sandsynligvis bliver positivt.

Selvom vi står over for mange udfordringer, såsom hvordan man fastholder menneskelig relevans på dette felt, og hvordan man finder nye mål og betydninger, synes jeg, det er en overforsimpling at overbetone, at computere kan være gode til alt.

Som du nævnte tidligere, tror jeg, at din bogs forudsigelser om fremtidens samfund er meget nøjagtige. Det er en æra med materiel overflod, hvor varer og tjenester vil være så rigelige, at de næsten er inden for rækkevidde for alle. På grund af den udbredte anvendelse af kunstig intelligens og robotteknologi vil prisen på varer og tjenester næsten blive reduceret til nul. Økonomien er i bund og grund et produkt af befolkningsstørrelse og gennemsnitlig produktivitet pr. person. Når vi har avanceret robotteknologi, såsom Teslas Optimus, vil det økonomiske potentiale virkelig blive frigjort.

Teslas biler, som robotter på fire hjul, har allerede demonstreret stærke egenskaber. Den seneste version med fuldt autonome køreegenskaber forventes at opnå end-to-end kontrol baseret på kunstig intelligens, hvilket gør bilen til en virkelig intelligent robot på hjul. Sammen med udviklingen af ​​humanoide robotter er muligheden for økonomisk output næsten ubegrænset.

Fra et optimistisk perspektiv bevæger vi os mod en fremtid med ekstrem materiel overflod, hvilket jeg tror er det mest sandsynlige resultat. Jeg tror, ​​at den eneste mulige knaphed i fremtiden vil være den knaphed, vi skaber kunstigt, såsom visse unikke kunstværker eller specifikke genstande. Men udover det vil alle varer og tjenester blive ekstremt rigelige.

Diamandis: Du er en person, der kan forme fremtiden gennem praktiske handlinger og har en skarp indsigt i fremtidige tendenser. Over for den hastige udvikling af den nuværende teknologi, er jeg meget nysgerrig efter, hvor langt ud i fremtiden, du tror, ​​du kan indsigt, det vil sige, hvor mange år med udviklingstendenser fra nu af?

Musk: I en tid med hurtige forandringer bliver evnen til at forudsige fremtiden stadig vigtigere. Selvom fremtiden er fuld af usikkerhed, tror jeg, at nogle tendenser er tydeligt synlige. Vi vil indlede en æra med kunstig intelligens, og dens evner vil nå eller endda overgå menneskelige niveauer i enhver kognitiv opgave. Dette er kun et spørgsmål om tid. Folk kan have forskellige holdninger til, om det bliver slutningen af ​​næste år, to år eller tre år. Én ting er dog sikkert, det vil sige, at det ikke vil overstige fem år. Min forudsigelse er baseret på en 50% sandsynlighed, som ikke er absolut. Men ifølge min vurdering vil kunstig intelligens sandsynligvis overgå ethvert individuelt menneskes evner i visse aspekter inden udgangen af ​​næste år.

Med hensyn til om det overgår menneskelig kollektiv visdom, kan det tage længere tid. Hvis forandringstempoet fortsætter, vurderer jeg, at omkring 2029 eller 2030 vil digital intelligens sandsynligvis overgå summen af ​​al menneskelig intelligens. Når jeg ser på disse spørgsmål, har jeg en tendens til at anvende metoden med grundlæggende forhold, ligesom de første principper i fysik. Ved at kombinere denne metode med sandsynlighedsanalyse kan vi mere præcist forstå fremtidige udviklingstendenser.

Hvis vi sammenligner mulighederne for digital databehandling med biologisk databehandling, og lægger alle menneskelige avancerede kognitive evner sammen som en slags computerkraft og derefter sammenligner det med digital computerkraft, vil du opdage, at vækstraten af ​​dette forhold er forbløffende. Derfor mener jeg, at 2029 eller 2030 er en rimelig tidsknudepunkt. På det tidspunkt vil den akkumulerede digitale regnekraft sandsynligvis overgå den akkumulerede biologiske regnekraft af avancerede hjernefunktioner. Siden da vil afstanden mellem de to blive ved med at blive større, og der vil ikke være mulighed for at indsnævre.

Men når vi står ved dette udgangspunkt og ser frem mod fremtiden, hvordan vil tingene så udvikle sig yderligere? For at være ærlig kan jeg ikke forudse alle detaljerne. Men hvis vi overvejer vækstfaktorer og de begrænsende faktorer, de kan stå over for, vil vi finde nogle interessante spor.

Sidste år var chipforsyningsbegrænsninger den vigtigste begrænsende faktor for AI-udvikling. I år bliver step-down transformere en vigtig flaskehals. Forestil dig at reducere en spænding på 300 kilovolt til mindre end 1 volt, der kræves af en computer. Dette er en kæmpe udfordring. Derfor har vi brug for mere effektive "Transformere til Transformere", som er step-down transformere eller AI neurale netværkstransformere. Dette er faktisk et stort problem i år.

Ser man frem mod de næste par år, kan elforsyningen blive en væsentlig begrænsende faktor. Kunstig intelligens har en enorm efterspørgsel efter elektricitet, og overgangen til bæredygtig energi og populariteten af ​​elektriske køretøjer har også intensiveret efterspørgslen efter elektricitet. Derfor skal vi seriøst overveje, hvordan vi kan imødekomme den stigende efterspørgsel efter elektricitet for at sikre den fortsatte udvikling og anvendelse af disse teknologier.