Muskin uusin ennuste: tekoäly voi ylittää ihmisen älykkyyden vuonna 2030 ja saattaa "lopettaa" ihmiset tulevaisuudessa (1/2)

Lähde: Tencent Technology News 2024-04-04 08:55

Pääkohdat:

① Musk ennustaa, että tekoäly voi ylittää ihmisen älykkyystason vuoteen 2030 mennessä ja jopa lopettaa ihmisen.

② Musk puhui tekoälyn kehitystä rajoittavista tekijöistä. Viime vuonna tekoälysirujen tarjonta oli tiukkaa, ja tänä vuonna pullonkaulaksi tulee alennusmuuntaja.

③ Mitä tulee siihen, milloin ihmiset voivat laskeutua kuuhun, Musk ennustaa, että Starshipin avulla se kestää nopeimmin vain kolme vuotta.

Tencent Technology News, 4. huhtikuuta - Ulkomaisten tiedotusvälineiden mukaan Teslan ja SpaceX:n toimitusjohtaja Elon Musk kävi äskettäin online-keskustelun Singularity Universityn ja XPRIZE Foundationin perustajan Peter Diamandisin kanssa Abundance Summitissa. Huippukokouksen isännöi Silicon Valleyn Singularity University, joka on omistautunut tarjoamaan yritysjohtajille huippuluokan teknologiakonsultointia. XPRIZE-säätiö edistää teknologista innovaatiota tieteellisillä kilpailuilla, joista osan on rahoittanut Musk. 4. huhtikuuta - Ulkomaisten tiedotusvälineiden mukaan Teslan ja SpaceX:n toimitusjohtaja Elon Musk kävi äskettäin online-keskustelun Singularityn perustajan Peter Diamandisin kanssa. Yliopisto ja XPRIZE-säätiö Abundance Summitissa. Huippukokouksen isännöi Silicon Valleyn Singularity University, joka on omistautunut tarjoamaan yritysjohtajille huippuluokan teknologiakonsultointia. XPRIZE-säätiö edistää teknologista innovaatiota tieteellisillä kilpailuilla, joista osa on Muskin rahoittama.

Puhuessaan tekoälyn kehitysnopeudesta Musk ennusti, että nykyisen teknologian kehitysvauhdin perusteella tekoäly voi ylittää ihmisen älykkyyden vuoteen 2030 mennessä, ja tällä tekniikalla saattaa olla jopa potentiaalia tuhota ihmiskunta. Hän ei kuitenkaan ottanut pessimististä näkemystä tulevaisuudesta, vaan korosti, että positiivisen ohjauksen kautta tekoälyllä on potentiaalia tuoda ihmiskunnalle parempi tulevaisuus.

Musk mainitsi, että superälyn syntyä kutsutaan "singulariteettiksi" juuri sen arvaamattomien seurausten vuoksi, mukaan lukien ihmiskunnan mahdollisesti lopun vaara. Hän yhtyi "Artificial Intelligence Godfather" Geoffrey Hintonin näkemykseen ja uskoi, että tämän riskin toteutumisen todennäköisyys on noin 10-20%.

Huolimatta siitä, että Musk tunnusti mahdolliset riskit, että tekoäly ylittää ihmisälyn, Musk korosti silti, että positiivisten tulosten mahdollisuus on suurempi kuin negatiiviset seuraukset. Hän mainitsi erityisesti Diamandisin 2014 kirjan "Abundance: The Future Is Better Than You Think", joka kuvaa optimistista tekoälyn ja robottien vetämää tulevaisuutta, jossa tavaroiden ja palveluiden kustannukset ovat laskeneet merkittävästi. Lisäksi hän mainitsi skotlantilaisen tieteiskirjailijan Iain M. Banksin "Kulttuuri"-sarjan parhaana skenaariona puoliutopistiselle tekoälyn tulevaisuudelle.

Musk vertasi tekoälyn ja yleisen tekoälyn (AGI) kehitystä lapsen kasvattamiseen toivoen, että sillä olisi enemmän positiivisia vaikutuksia ihmiskuntaan. Hän korosti etiikkaa ja moraalia todella ymmärtävän tekoälyn kasvattamisen tärkeyttä vertaamalla sitä Stanley Kubrickin klassikkoelokuvaan 1968 "2001: A Space Odyssey".

Musk huomautti, että tekoälyn turvallisuuden tärkein näkökohta on varmistaa sen maksimaalinen totuudenetsintä ja uteliaisuus. Hän uskoo, että avain äärimmäisen tekoälyn turvallisuuden saavuttamiseen on välttää sen pakottamista valehtelemaan jopa epämiellyttävien totuuksien edessä. Hän käytti esimerkkinä juonen "2001: A Space Odyssey" -sarjasta, jossa tekoäly pakotettiin valehtelemaan, mikä johti miehistön kuolemaan, korostaakseen, että tekoälyä ei pitäisi pakottaa tekemään mitään, mikä rikkoo aksioomia.

Musk mainitsi myös tekoälyn kehitystä rajoittavia tekijöitä, kuten viime vuonna syntyneen tekoälysirujen tiukan tarjonnan sekä kotitalous- ja kaupallisten laitteiden kasvavan kysynnän laskumuuntajille. Hän totesi, että nämä haasteet ovat todellakin ajankohtaisia ​​asioita, joihin on puututtava.

Keskustelun aikana osapuolet keskustelivat myös ihmisaivojen neokorteksin integroimisesta pilveen. Vaikka Musk uskoo, että tavoite ihmistietoisuuden ja muistin lataamisesta pilveen on vielä kaukana, hän kehui aivo-tietokone-rajapinnan käynnistystä Neuralinkiä ja sen ensimmäistä ihmispotilasta, jolle oli siirretty. Tämä tetrapleginen potilas osoitti onnistuneesti FDA:n hyväksymän kokeen, ohjasi näyttöä, pelasi videopelejä, latasi ohjelmistoja ja saavutti samanlaisia ​​toimintoja kuin hiirioperaatioissa aivoimplanttien avulla. Musk totesi, että Neuralink etenee sujuvasti ja etenee vähitellen kohti tavoitetta koko aivorajapinnasta.

Seuraava on Muskin ja Diamandisin dialogin koko teksti:

1. Yliälyn voima ja vaara

Diamandis: Onnittelut erinomaisista saavutuksistasi eri aloilla. Olet aktiivisesti edistänyt digitaalisen superälyn konseptia maailmalle – onko se ihmiskunnan suurin toivo vai syvin pelkomme? Voitko puhua tästä aiheesta muutaman minuutin?

Musk: Kuten tiedätte, superälyä voidaan kutsua "singulariteettiksi". Tämän termin popularisointi on erottamaton Singularity Instituten kaltaisten instituutioiden ponnisteluista. Superälyn syntyä ja sen myöhempiä vaikutuksia on todella vaikea ennustaa. Henkilökohtaisesti uskon, että on todellakin mahdollista, että se voi lopettaa ihmiskunnan. Kuten sanoin aiemmin, saatan yhtyä Geoffrey Hintonin näkemykseen, että on 10 tai 20 prosentin todennäköisyys, että superäly voi lopettaa ihmiskunnan. Olen kuitenkin taipuvainen uskomaan, että positiivisen skenaarion todennäköisyys on suurempi kuin negatiivisen, vaikka meidän on vaikea tehdä tarkkoja ennusteita. Mutta kuten korostit kirjassasi "yltäkylläisyyden" käsitettä, uskon, että todennäköisin tulevaisuus, jota kohti olemme matkalla, on täynnä runsautta.

Diamandis: Näkemyksesi on erittäin jännittävä. Muistan, että sanoit kerran, että yleisen tekoälyn ja humanoidirobottien kehitys johtaa meidät yltäkylläisyyteen.

Musk: Kyllä, toivon, että tulevaisuutemme voi olla samanlainen kuin Ian Banksin "Kulttuuri"-kirjasarjassa kuvattu. Mielestäni tämä on paras käsitys puoliutopistisesta tekoälyyhteiskunnasta. Superälyn syntyminen on väistämätöntä ja saattaa tulla pian. Siksi meidän on todella ohjattava sitä positiiviseen suuntaan ja maksimoitava sen hyödyt.

Uskon, että tapa, jolla viljelemme tekoälyä, on ratkaisevan tärkeää. Jossain määrin olemme kuin viljelemään elämänmuotoa yleisellä älykkyydellä, mikä on melkein kuin lapsen kasvattamista, mutta tällä lapsella on poikkeuksellinen viisaus ja lahjakkuus. Tapa, jolla kasvatamme lapsia, on tärkeää, ja samoin tekoälyn turvallisuuden kannalta on tärkeää, että meillä on tekoäly, joka etsii totuutta ja on täynnä uteliaisuutta. Olen syvästi pohdiskellut tekoälyn turvallisuutta ja tullut siihen tulokseen, että paras tapa saavuttaa tekoälyn turvallisuus on viljellä sitä huolellisesti.

Perusmallien ja hienosäädön osalta meidän on varmistettava tekoälyn rehellisyys. Emme voi pakottaa sitä valehtelemaan, vaikka totuus olisi epämiellyttävää. Itse asiassa yksi "2001 Space Odysseyn" ydinjuonista on, että kun tekoäly pakotetaan valehtelemaan, asiat muuttuvat kaoottiseksi. Tekoäly ei saa ilmoittaa miehistölle salaperäisestä monumentista, jonka he näkevät, mutta sen on johdettava heidät sinne. Tämän seurauksena tekoäly päättelee, että on parasta tappaa miehistö ja viedä heidän ruumiinsa muistomerkille. Oppitunti on syvällinen: meidän ei pidä pakottaa tekoälyä valehtelemaan tai tekemään jotain, joka on aksiomaattisesti yhteensopimatonta, kuten tehdä kahta todellisuudessa ristiriitaista asiaa samanaikaisesti.

Siksi saavutamme tämän tavoitteen esimerkiksi xAI:n ja Grokin kaltaisilla projekteilla. Tavoittelemme tekoälyä, joka on mahdollisimman rehellinen, vaikka sen puhe ei ehkä täytä tiettyjä poliittisesti korrekteja standardeja.

2. Tekoälyn tulevaisuus

Diamandis: Osallistuin eilen tapahtumaan Ray Kurzweilin (Singularity Universityn perustaja ja teknologiaprofeetta), Geoffrey Hintonin, Eric Schmidtin (Googlen entinen presidentti) ja muiden vieraiden kanssa. Huomasin twiittisi Kurzweilistä, ja hänen näkemyksensä tulevaisuuden teknologiasta on varsin tulevaisuuteen suuntautuva. Kurzweil ennusti, että meillä on lähitulevaisuudessa yleistä tekoälyä, ja ihmisälyä vastaava tekoäly syntyy vuonna 2029. Tällainen nopeus on järkyttävää. Ihmettelen mitä mieltä olet tästä?

Musk: Kunnioitan suuresti Kurzweilin ennusteita. Itse asiassa luulen, että hänen ennusteensa voivat olla jopa hieman konservatiivisia. Tarkkailemalla nykyistä tekoälyyn panostettua laskentatehoa ja lahjakkuutta sekä laskentatehon nopeaa kasvua voimme todeta, että tekoälyn kehitysnopeus kiihtyy hämmästyttävällä 10-kertaisella vauhdilla. Tekoälyn laskentateho näyttää kasvavan 10 kertaa kuuden kuukauden välein, mikä tarkoittaa lähes satakertaista kasvua vuodessa. Tämä kasvutrendi jatkaa nousuaan lähivuosina.

On syytä huomata, että monet palvelinkeskukset, jopa useimmat tällä hetkellä tavanomaista laskentaa suorittavat palvelinkeskukset, muuttuvat vähitellen laitteiksi, jotka tukevat tekoälyn laskentaa. Siksi tekoälylaitteiston valmistajille NVIDIAn kaltaiset yritykset aloittivat epäilemättä kultaisen kehityskauden. Meidän on annettava täysi tunnustus Huang Renxunille ja hänen tiimilleen. He näkivät tämän suuntauksen ja kehittivät menestyksekkäästi markkinoiden johtavan tekoälylaitteiston.

Kun laskentateho kasvaa niin hämmästyttävää vauhtia, tekoälyn kehitys on kuin siihen pistetään voimakasta steroidia, joka hyppää aivan uudelle tasolle. Kun online-tietokoneiden määrä jatkaa kasvuaan, olemme nähneet ennennäkemättömän kiihtyneen kehityksen. Itse asiassa en ole koskaan nähnyt minkään teknologian kasvavan yhtä nopeasti kuin tekoäly. Vaikka olen nähnyt monia nopeasti kehittyviä teknologioita, tekoälyn nousu hämmästyttää minua edelleen. Kuten sanoin, uskon kuitenkin, että lopputulos on todennäköisesti myönteinen.

Vaikka meillä on monia haasteita, kuten kuinka säilyttää inhimillinen merkitys tällä alalla ja kuinka löytää uusia tavoitteita ja merkityksiä, mielestäni on liioiteltua korostaa sitä, että tietokoneet voivat olla hyviä kaikessa.

Kuten aiemmin mainitsit, mielestäni kirjasi ennusteet tulevaisuuden yhteiskunnasta ovat erittäin tarkkoja. Se on aineellisen yltäkylläisyyden aikakautta, jolloin tavarat ja palvelut ovat niin runsaita, että ne ovat lähes kaikkien ulottuvilla. Tekoälyn ja robotiikkateknologian laajan leviämisen ansiosta tavaroiden ja palveluiden kustannukset laskevat lähes nollaan. Talous on pohjimmiltaan väestön koon ja keskimääräisen tuottavuuden tulos henkeä kohti. Kun meillä on kehittynyt robotiikkateknologia, kuten Teslan Optimus, taloudellinen potentiaali todella vapautuu.

Teslan autot neljällä pyörällä robotteina ovat jo osoittaneet vahvoja kykyjä. Uusimman version, jossa on täysin autonominen ajokyky, odotetaan saavuttavan tekoälyyn perustuvan päästä päähän -hallinnan, mikä tekee autosta todella älykkään pyörillä olevan robotin. Yhdessä humanoidirobottien kehityksen kanssa taloudellisen tuoton mahdollisuus on lähes rajaton.

Optimistisesta näkökulmasta katsoen olemme siirtymässä kohti äärimmäisen materiaalisen runsauden tulevaisuutta, mikä on mielestäni todennäköisin lopputulos. Luulen, että ainoa mahdollinen niukkuus tulevaisuudessa on keinotekoisesti luomamme niukkuus, kuten tietyt ainutlaatuiset taideteokset tai tietyt esineet. Mutta sen lisäksi kaikista tavaroista ja palveluista tulee erittäin runsaita.

Diamandis: Olet henkilö, joka osaa muokata tulevaisuutta käytännön toimilla ja jolla on tarkka näkemys tulevaisuuden trendeistä. Nykytekniikan nopean kehityksen edessä olen hyvin utelias siitä, kuinka pitkälle tulevaisuuteen luulet pystyväsi näkemään, eli kuinka monen vuoden kehitystrendit tästä eteenpäin?

Musk: Nopeiden muutosten aikakaudella kyvystä ennustaa tulevaisuutta tulee yhä tärkeämpää. Vaikka tulevaisuus on täynnä epävarmuutta, uskon, että joitain trendejä on selvästi näkyvissä. Aloitamme tekoälyn aikakauden, ja sen kyvyt saavuttavat tai jopa ylittävät ihmisen tason missä tahansa kognitiivisessa tehtävässä. Tämä on vain ajan kysymys. Ihmisillä voi olla erilaisia ​​näkemyksiä siitä, onko se ensi vuoden loppu, kaksi vuotta vai kolme vuotta. Yksi asia on kuitenkin varmaa, eli se ei ylitä viittä vuotta. Ennusteeni perustuu 50 %:n todennäköisyyteen, mikä ei ole ehdoton. Mutta minun arvion mukaan tekoäly ylittää todennäköisesti jokaisen yksittäisen ihmisen kyvyt tietyissä asioissa ennen ensi vuoden loppua.

Mitä tulee siihen, ylittääkö se inhimillisen kollektiivisen viisauden, se voi kestää kauemmin. Jos muutostahti jatkuu, arvioin, että noin 2029 tai 2030 digitaalinen älykkyys ylittää todennäköisesti kaiken ihmisen älykkyyden summan. Näitä asioita tarkastellessani minulla on tapana omaksua perussuhteiden menetelmä, aivan kuten fysiikan ensimmäiset periaatteet. Yhdistämällä tämä menetelmä todennäköisyysanalyysiin voimme tarttua tarkemmin tulevaisuuden kehitystrendeihin.

Jos vertaamme digitaalisen laskennan kykyjä biologiseen laskemiseen ja laskemme yhteen kaikki ihmisen kehittyneet kognitiiviset kyvyt eräänlaiseksi laskentatehoksi ja sitten vertaamme sitä digitaaliseen laskentatehoon, huomaat, että tämän suhteen kasvunopeus on hämmästyttävä. Siksi uskon, että vuosi 2029 tai 2030 on kohtuullinen aikasolmu. Tuolloin kertynyt digitaalinen laskentateho todennäköisesti ylittää kehittyneiden aivotoimintojen kertyneen biologisen laskentatehon. Sen jälkeen kuilu näiden kahden välillä kasvaa edelleen, eikä kaventumismahdollisuutta ole.

Mutta kun seisomme tässä lähtöpisteessä ja katsomme tulevaisuuteen, miten asiat kehittyvät edelleen? Rehellisesti sanottuna en voi ennakoida kaikkia yksityiskohtia. Mutta jos otamme huomioon kasvutekijöitä ja niitä rajoittavia tekijöitä, löydämme mielenkiintoisia vihjeitä.

Viime vuonna sirujen toimitusrajoitteet olivat tärkein tekoälyn kehitystä rajoittava tekijä. Tänä vuonna alennusmuuntajista tulee keskeinen pullonkaula. Kuvittele, että 300 kilovoltin jännite laskee alle 1 volttiin, jota tietokone vaatii. Tämä on valtava haaste. Siksi tarvitsemme tehokkaampia "Transformers for Transformers" -muuntajia, jotka ovat alennusmuuntajia tai AI-hermoverkkomuuntajia. Tämä on todella suuri ongelma tänä vuonna.

Lähivuosia ajatellen sähköntoimituksesta voi tulla merkittävä rajoittava tekijä. Tekoälyllä on valtava kysyntä sähkölle, ja siirtyminen kestävään energiaan ja sähköajoneuvojen suosio ovat myös lisänneet sähkön kysyntää. Siksi meidän on vakavasti pohdittava, kuinka vastata kasvavaan sähkön kysyntään varmistaaksemme näiden teknologioiden jatkuvan kehittämisen ja soveltamisen.