Tehisintelligents ja robotid.
Postitusi kokku 137
kasutaja348

image

opex

See sama AI eest Nobeli saanud Hinton jt. spetsid on tõsiselt mures inimkonna saatuse pärast kui nii edasi läheb.

Stop AI believes that if we continue on our current path with artificial intelligence, it will lead to the extinction of mankind. An alarming number of experts agrees. Among those who take this possibility seriously are Geoffrey Hinton, who won the Nobel prize in physics last year for his work on AI; Yoshua Bengio, the Turing Award winner; and the chief executives of OpenAI, Anthropic and Google DeepMind, all of whom signed an open letter that read: “Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.” link

It could happen in any number of ways. For a truly super-intelligent AI, which regards humanity as a competitor, wiping us off the face of the planet would be a trivial feat.

According to Nate Soares, a former Google and Microsoft engineer who is now president of the Machine Intelligence Research Institute, our chance of extinction via AI is “at least 95%” if we continue on our current path. He compared our situation to driving towards a cliff at 100mph. “I’m not saying we can’t stop the car,” he said. “But we’re just going full steam toward the cliff.”

Right now, AI is in its infancy. The bots we use today are highly adept at handling specific cognitive tasks, such as crunching numbers on a spreadsheet or composing a well-written email. These are called “narrow AIs”.

Depending on whom you ask, within a year, a few years or a decade, machine intelligence will achieve artificial general intelligence, or AGI. This refers to the threshold at which AI matches human intelligence. At this point the AIs’ capabilities will no longer be narrow. Instead of tackling just a single task at a time, they will be capable of solving complex problems that require long-term planning, goal-setting, judgment and reasoning across multiple fields of knowledge. AGIs will have many more advantages over human beings. They won’t need to sleep or take breaks to eat. They also won’t have to spend years in school to achieve expertise. They will simply pass along their knowledge and skills to the next generation of AGIs.

Soon after, they will reach “artificial super intelligence”, or ASI. They will become capable of doing things humans can only dream of, such as curing cancer, achieving cold fusion or travelling to the stars. They will be like gods.

This is the utopia that AI enthusiasts cheer for. But that utopia rests on the idea that these gods will continue to follow our orders. Making sure this happens, it turns out, is an incredibly complicated technical challenge. In AI research, it’s called “alignment”. Alignment is almost impossible to achieve, and here’s why: we have to anticipate how ASIs “think”, which is a bit like trying to anticipate how an advanced alien race would think. Even if we’re able to dictate rules to them, we can’t predict exactly how they will follow them. Another problem is that AIs can lie to us. Even in their current infancy, they do it all the time.

An AGI or an ASI would be capable of both long-term planning and deception. They could easily fool us into thinking they’re aligned with us when they really aren’t.

And we will have no way of discerning the truth. Already, many of the internal decision-making processes of AIs are inscrutable to humans. Soares said “we take an enormous amount of computing power and smash it against a truly enormous amount of data in a way that shapes the computers somehow. No one knows what goes on inside those things.” And as they advance, ASIs could communicate in a new language we don’t understand.

AIs seem already to be developing strange autonomous preferences and shady ways of fulfilling them. Grok AI briefly started ad-libbing antisemitic slurs and spontaneously praising Hitler. Bing’s AI tried to break up a New York Times journalist’s marriage. “We’re now starting to see the very beginning of warning signs,” Soares said. “You make them smart enough, it’s not going to be pretty.”

Holly Elmore is the executive director of PauseAI, a more moderate version of Stop AI. Elmore is less certain than Soares that our current path will lead to human extinction. Instead of 95%, she puts the odds of extinction — called “p(doom)” in AI circles — at 15-20%. This is in line with many AI engineers. Musk also has a p(doom) of about 20. These are considered optimistic predictions.

Elmore believes AI will diminish our lives. “It’s a threat to human self-determination,” she said. Her fears reflect those in a paper called “Gradual Disempowerment” link, written by AI scholars from various universities and think tanks, which anticipates the risks of a society replaced by intelligent machines. “Imagine a scenario where all the humans are basically living on dump sites,” said Katja Grace, the co-founder of the research group, AI Impacts, describing a world controlled by AI. We wouldn’t have any political or economic power and we wouldn’t be able to understand what was going on, she added.

Elmore said AI proponents are not resisting a pause for technical or even political reasons. It’s more like religious faith. One adherent once told her he will never die because he believes AI will immortalise his consciousness. For some, giving up on AI means giving up on eternal life. “There’s a lot of hope for heaven,” Elmore said. Even if many experts warn that hell is a lot more likely. -the times

taavi_talvik

Huvitav artikkel USA majanduse ja AI teemal.

vt. How AI Conquered the US Economy: A Visual FAQ

Ameerika majandus on lõhenenud pooleks. Seal on möirgav tehisintellektil põhinev majandus. Ja seal on tuhm tarbimismajandus. Viimase kahe aasta jooksul on umbes 60 protsenti aktsiaturu kasvust tulnud tehisintellektiga seotud ettevõtetelt, nagu Microsoft, Nvidia ja Meta. Ilma tehisintellekti buumita oleksid aktsiaturu tootlused mädanenud.

Samas, kui praegune AI boom panna ajaloolisse konteksti, siis on ruumi oi-oi kui palju veel minna pooleteise sajandi taguse raudteede ehituse investeeringute osakaaluni majanduses.

11c1cb0e-2d05-41a6-a238-893813e36352_1322x834

mutionu

Keegi võiks teema pealkirja ära parandada. Mõeldud on vast ikka tehisintellekti. Intelligents on haritlaskond. Ei kujuta ette tehislikku haritlaskonda. Tundub, et teemaalgataja intelligentsus on madalavõitu, et sellise pealkirja pani.

opex

Lisaks on teema 'Tehisintellekt' juba ka olemas, siin ja 5x kommide arvuga.

vipvalve

.. ju seal siis süvapöhjus peitubki... hoooopis teine vaatenurk, palju sügavam..

näriline   →  decibel

Paneb mõtlema, kaua läheb, kuni inimene siin keral ennast vabatahtlikult välja suretab? Kui jätkub ajusid ennast mitte sõdadega hävitada, siis AI aitab ... loodan, et mina seda veel ei näe. Lastest on kahju, kas inimene tõesti peab jumalat mängima?

purus

oma Intel peab olema, enam ei loe see kes näib targem , vaid see mida osatakse, teostatakse

PeaLiK   →  decibel

Video suht lõpus oli üks koht, kus inimene õpetas robotile mingeid võitluskunsti lööke. See paistab juba üsna praktilise rakendusena. Keegi ei osta mingit fcking robotit selleks, et see kurki ja tomatit viilutaks või tantsuliigutusi teeks, aga selline, mis hakkab kõrtsis molli sõitma, kui seisuks läheb, tundub juba päris mõistlik investeering.

opex

Enamus neist videotest on AI garbage nkn. Kui päris demo tuleb siis on kardina taga jälle inimene puldiga.

kasutaja348   →  JP76

Claude Opus 4.6/Open Ai Codex 5.3 väljalase küll mingi märkimisväärne hüpe polnud, ja autor on samamoodi AI firmaga seotud. Aga jah, samas kõhutunne ütleb endalgi, et suured asjad on 2026. aastal meid ees ootamas, vähemalt tarkvaraarendusega seoses.

kindsigo

Kõige nõmedam on see, kui AI hakkab ise koodi kirjutama ja iseennast uueks looma. Siis kaob inimestel kontroll täiesti ära ja sealt hakkab tulema täielikku sousti või siis täiesti töötavaid lahendusi, aga inimesed ei tea, mis tagauksed või muud peidetud funktsioonid sinna sisse on saanud. Ehk siis AI tuleb hoida eemal pangandusest, juriidikast, transpordist, meditsiinist jne. Või siis annamegi ennast selle "uue jumala" hoolde ja loodame et klusterfucki ei tule.

Ja siis veel see massilise töötuse probleem, valgekraede koondamine. Kes neid ülal pidama hakkab, inimrobotid ilmselt.

kasutaja348   →  kindsigo

Ma veel hoiaks hobuseid selle teemaga. On muidugi irooniline, et kõige suurem fearmonger Anthropic nüüd ise täiega seda AI 2027 stsenaariumit ellu viia üritab. Aga päris veendnud ma pole, et see neil ilmtingimata õnnestub.

luarvik

Järgmise sõna äraarvamise masin, mida "tehisaruna" propageeritakse mulli puhumiseks? Humanoidrobot? Elon mjuski bantustani neegri märg sci fi unenägu.

luarvik   →  kasutaja348

lhv slopid viimasel ajal viitavad, et ai slop hakkab raha röövima rohkem kui kunagi varem.

Krista   →  kindsigo

Rangelt kontrolli all peab hoidma, mitte vältima. Ja Eestis on täitmata töökohti täiesti piisavalt, tööpuudust ei ole niipea karta.

vipvalve   →  Krista
Krista15/02 11:30

Eestis on täitmata töökohti täiesti piisavalt

.. mis ei köla eriti usutava väitena pädevuse ja teostusvajadust motiveeriva huvi e. ootuse vaates.. köik valgekraed maasikakorjajateks?

luarvik   →  Krista

Mul on ka koduabilise koht täitmata. Ainuke probleem, et palgaraha pole.

Totu_Cool   →  luarvik
luarvik15/02 10:38

Järgmise sõna äraarvamise masin, mida "tehisaruna" propageeritakse mulli puhumiseks? Humanoidrobot?

Siin saab vanakurja advokaati mängida - üheltpoolt on küll tõsi, et keelemudelid, mida tehisaruna reklaamitakse, on järgmise sõna äraarvamise masinad, kuid teiseltpoolt, misasi see kõnelev või kirjutav inimaju siis on kui mitte sõnade rittaseadmise masin ehk järgmise sõna äraarvamise masin? Jah, me võime vaielda, et inimaju ilmselt teostab rohkemaid eriliigilisi protsesse kui vaid järgmise sõna äraarvamine eelmiste sõnade konteksti põhjal, näiteks rafineerivad rekursioonid ja iteratsioonid, kuid jällegi - misasi inimesi võitev maleprogramm muud on kui üks tohutu rafineeriv rekursioon? Ajapikku õpitakse neid muid protsesse keelemudelitele üha efektiivsemalt lisama kuni sünnib miski, millel hinge pole ja mis valu ega piinu ega muid kannatusi ei taju, kuid mis sellegipoolest suudab järjest rohkemate töödega inimestest efektiivsemalt hakkama saada ilma seejuures äraväsimata, pidevalt vingumata ja palgalisa nõudmata.

netcat

Aga kelle jaoks neid töid vaja teha on, kui inimesi endid enam tarvis pole?

Totu_Cool   →  netcat

Inimene on sotsiaalne olend, OF ega Tinder ei lähe ilmselt niipea kinni, ära põe.

vipvalve   →  Totu_Cool
Totu_Cool15/02 15:14

Inimene on sotsiaalne olend...

... matsid jäävad matsideks, aga selle pärast ei löpe veel meie püha üritus

Krista   →  vipvalve

Eks ootuseid tuleb jah mõnedel kohandada. Samas on kontorites praegu piisavas koguses mõttetuid tegelasi ..

Totu_Cool   →  Krista
Krista15/02 17:49

Samas on kontorites praegu piisavas koguses mõttetuid tegelasi ..

Samas on linnades praegu piisavas koguses mõttetuid kontoreid...

Krista   →  Totu_Cool

Täiesti nõus, kontoreid on ka üleliia.

kasutaja348   →  Krista
Krista15/02 11:30

Rangelt kontrolli all peab hoidma, mitte vältima.

Ei tea samas kui palju seda üldse kontrolli all hoida saab ja kas seda väga soovitaksegi. See, et AI CEO-d kuulutavad white collar tööde kadumist 1-2 aasta jooksul...igapäevane AI haip aga omamoodi märgiline selles suhtes, et kedagi mingid regulatsioonid küll hetkel ei huvita. Vastasel korral oldaks ettevaatlikumad.

Edit: omamoodi märgiline on ka Sam Altmani üsna "casual" väide mingil OpenAI Q&A-l , et "OK on tõenäosus, et AI-d kasutatakse juba sellel aastal biorelva loomisel või saab sellest suur abivahend küberrünnakute kasutamisel... aga mida sa ikka teha saad, loodame, et on olemas ka "hea" AI kes halva ära hoiab."

https://www.youtube.com/watch?v=Wpxv-8nG8ec

Mul oli nädalavahetusel huvitav vestlus ühe staažika señor tarkvarainseneriga, mis algas temapoolse küsimusega mulle, et "kas teil ka surutakse tööl seda AI kasutamist peale ?" ning seejärel kirjeldas elavalt milliste huvitavate "sigadustega" tema agent hakkama on saanud. Jäi mulje, et otsustajad on näinud ja imetlenud, kuidas masin kiiresti koodi genereerib, aga jätnud tähelepanuta kõikvõimalikke turvariske jms. mis sellega kaasneb. Väitis et tema ei suuda siiski usaldada ja kirjutab ka suurel hulgal koodi - veel - ise. Aga jah, "tulevik on siin" ja me kõik katsetame seda - laivis. See, mis sealt väja lõpuks koorub, eks seda näitab aeg.

Totu_Cool   →  kasutaja348

Mulle meeldib kuulata mõlema leeri arutluskäiku:

  1. Leer "Kõik progejad võib pmst kohe lahti lasta ning Pääsküla prükkarid panna sikspäki eest prompte treima": https://www.youtube.com/watch?v=JGm_v3YFMes

  2. Leer "Ootan kuni lipsuga notsudele reaalsus kohale jõuab ning siis võime uuesti läbirääkida, kas olen nõus tagasi tööle tulema kümne-, saja- või tuhandekordse vana palga eest": https://www.youtube.com/watch?v=2_b8HM-OfMU

Võibolla mõlema leeri argumente kõrvutades saab sündida midagi ligilähedaselt realistliku prognoosi sarnast, seevastu ainult üht või ainult teist leeri jüngerdades sünnib prognoos tõenäoliselt tugevalt kallutatud.

Lisakommentaarina - mulle isiklikult esialgu paistab, et tehisaru peamiseks väljapaistvaks andeks on poolenisti läbiseeditud treeningandmete regurgiteerimine ehk tagasioksendamine varieeruva värvi ja lõhnaga, kuid endiselt puudub märkimisväärne uudse kvaliteedi sünteesivõime ning iseseisev mõtestatud eesmärkide püstitamise oskus.

decibel

Siin on kolmas leer veel, nn Wall Streeti leer, kellegil krdil pole enam seda fcking koodi vaja ja kõiki mitte-AI softifirmad tambitakse maapõhja.

Totu_Cool   →  decibel

See "kolmas" leer on ju sama mis esimene leer.

decibel

Ei ole, esimene leer väidab, et nad kirjutavad nüüd AI abil 10x rohkem ja 10x kiiremini seda koodi.

Totu_Cool   →  decibel

Efekt on sama - kui softifirmade kliendid hakkavad lepingualet nõudma, sest nende arvates muutus softitootmine just odavamaks, siis softfirmade aktsiad tambitakse samamoodi alla. Kas AI kirjutab C või Rust või ASM või otse masinkoodi või ei kirjuta üldse koodi vaid inference jookseb otse rakendusmasinates pole ju suurt vahet - ka mudelikaalude inference iseenesest on mõistetav kui "soft".

Krista

What happens when a skill can be almost fully automated with AI? Do these jobs simply disappear?

Instead of purely speculating we can simply look at concrete examples. Take translators. Translation can be 100% automated with AI, and this capability has been around since 2023. So we have 2-3 years of data.

What we see so far:

  • Stable FTE count, but slow hiring or no hiring
  • Nature of the job switched from doing it yourself to supervising AI output (post-editing)
  • Increased task volume
  • Decreased hourly rates
  • Freelancers getting cut

We are now starting to see the same pattern with software jobs.

JP76

Anthropic CEO just said Ai will wipe out 50% of lawyers, consultants, and finance professionals within 12 months:

Totu_Cool   →  JP76

Iga ** kiidab oma ***. Mul poleks iseenesest midagi selle vastu kui masinad suudaks rohkem tüütuid töid inimestelt üle võtta ja teha neid parema ja stabiilsema kvaliteediga, kuid sellised "Kohe-kohe saab!" lubadused on nagu on.