https://forum.fp.lhv.ee/t/paevakaja/24205/39723
Säästmaks kaasfoorumlasi ja ühtlasi, kuna järgnev jutt hakkab kalduma veidi ulme-valdkonda, siis kolin selle siia, kui kõige sobivamasse alamteemasse.
decibel10/11 11:38Pealegi ei ole mul mingit huvi ühe serveriadminni koduväljakule kaklema tulla, ja sina ei tule minu koduväljakule rusikatega vehkima.
Kui me vaid teaks, mis see decibeli koduväljak küll olla võiks. Sklerroos on vist kasvatanud sambla ajukäärudele ja mitte ei mäleta, et oleksin kunagi gyproci-panemise, pahteldamise, asfaldilaotamise või kraavikaevamise teemal midagi kirjutanud.
Aga natuke ulmeteemat ka... kujutleme, lihtsalt kujutleme, et homme leiutab keegi FTL*-ajami koos mingi "jõuvälja" generaatoriga, mis suvalist plekkpurki kaitseb edukalt vaakumi, radiatsiooni ja kõige muu toreda eest, mida avakosmoses leida võib.
Proovime ette kujutada maailma, kus iga "Cessna" väikelennuki või suvakopteri omanik saab enda käsutusse tühise 100 000 EUR lisainvesteeringuga laeva, mis avab talle kogu Linnutee galaktika. Lase aga lennata. Avasta uusi maailmu. Asuta kolooniaid kui tuju tuleb. Ja mis peamine, see on kättesaadav igale keskmisest jõukamale kodanikule... parema-premium-klassi automobiili hinnaga. Miljonid, sajad miljonid tähesüsteemid ja uued maailmad on järsku "käeulatuses". Tehnoloogia leiutaja tegi selle kõik veel avalikuks kah, Internetis levisid plaanid ja joonised kulutulena, teabele enam kätt ette ei pane. Osavate Käte Ring ehitab midagi ise valmis odavamaltki kui 100k.
Need on detailid. Nüansid. Tegelikult ei oma tähtsust.
Tähtsust omab järgmine: toimus kvalitatiivne ja paradigmaatiline NIHE... sajad miljonid uued maailmad on igaühe käeulatuses. Nagu nii suured muutused ikka, kutsub selline asi esile süsteemse kriisi (sellega võiks isegi decibelid nõus olla. ei?)
Nüüd on küsimus. Kuidas edasi. Keerukas küsimus.
Variant A -- "laseme lennata" ja vaatame mis juhtub
Variant B -- püüame kuidagi olukorda kontrolli all hoida. Kriisi ohjata. Reglementeerime rangelt lennud, avastsuretki lubame ainult riiklikult registreerituna, kontrolli all. Enne kui keegi üldse kusagile lubatakse käib seal vähemalt eelluurel "riiklik luuresalk". Koloonitate asutamne ja Maalt ümber asumine -- samuti kontrolli alla.
Läheme tasa-ja-targu, hoolikalt kaalutud pisikeste kukesammude kaupa, igal sammul võimalikke riske ja ohte hinnates. Võimalusi on ju palju. Selgelt eluohtliku (näiteks helesiniste ülihiidude süsteemid) asemel võib ju kohe ka ohutuma ja perspektiivikama valida.
Kui me nüüd selle LLMi peale üle kanname. Üleöö avanesid samuti sajad miljonid uued kasutusvõimalused. Kõiki me isegi ei tea veel, et mida kõike veel LLM abil ära teha saaks. LLM ise ka ei tea. Aga mis juhtus? Istuti näpp ninas ja ülekantud tähenduses "laseme lennata ja vaatame mis juhtub". Selmet kohe alguses asi karmilt "lühikese keti otsa panna" ja reguleerida.
Väidate, et seda poleks olnud võimalik teha? No oleks ikka küll. Samamoodi tehti nt. teatud geeniuuringutega. ENNE kui seadused valmis pole, resultaate kasutada ei tohi. Ja sellises vaieldavas küsimuses nagu "inimese kloonimine" ... risk on selgelt näha, keegi vastutust võtta ei soovi ja "seadusandlus" "valmib" juba viimased 40 aastat.
Riigil ON tegelikult ülivõimas hoob "kauboide" taltsutamiseks -- reguleerimata jätmine. "Enne kui regulatsiooni ei ole teie oma LLMiga turule ja laborist välja ei lähe". Kõik. Valma. Kord majas.
Ja siis on juba aega rahulikult oodatav, vaadata, analüüsida, riske hinnata ja proovida ennustada -- mis sellest asjast võiks saada ja kas see on ikka piisavalt ohutu, et "lühikese keti otsast valla päästa".
On mingi "level of distruption" mille üks ühiskond mingi mõistliku aja jooksul suudab "vastu võtta ja ära seedida". Ulmeline FTL on väga kindlalt üle selle "taluvuspiiri". Umbes sama hullude tagjärgedega oleks ka selline op. nagu Charlie Gordonile tehti (kui see ei regresseeruks). LLM on sellele taluvuspiirile väga riskantselt lähedal (tõenäoliselt on selle juba ületanud). Siinkohas võib decibeliga nõustuda ... tsunami saabumine on väga tõenäoline. Paraku, selle kuradi tsunami kutsusime me ISE endale kaela ... lõhkasime ühe pisikese tuumapommi geoloogiliselt õrnas kohas (laamade vahelises praos).
Mõned "ettenägelikud" ja "uljad" ärimehed mõtlesid -- vaatame mis saab? Äkki saab KaZumm? Aga kui p....se läheb, siis vastutab terve Inimkond. Naha und karvadega.
Ja detsibellid ja kallased ja selterid ja co. kiidavat takka. "Lendame, bljaad, eks pärast paistab".
P.S. AI uuringud elasid MIT laboriseinte vahel jms. juba 1970ndatel vaikselt ja ohutult kontrollitud tingimustes oma elu. Kesse kurat nad isolatsioonikambrist välja lasi?
- Aknonüümide vihkajatele: FTL Faster-Than-Light