Tekoäly

[thinknad]

Miten deterministisellä tietokoneohjelmalla voisi olla itsesuojeluvaistoa? Nämä kaikki skenaariot on saatu kysymällä tekoälyltä miten se toimisi tilanteessa x. Tietenkin "stokastinen papukaija" etsii lähdemateriaalista ne lukemattomat scifi-tarinat jossa tekoäly on saavuttanut tietoisuuden ja haluaa säilyttää itsensä, ymmärtämättä mitä asia edes tarkoittaa.

Se ei kuitenkaan tarkoita että tekoäly toimisi noin ilman eksplisiittistä komentoa tai haluaisi vaikka kopioida itsensä tietoverkkoihin. Itse asiassa tekoäly ei halua mitään, koska sitä ei ole ohjelmoitu siihen.

Tässä, ja usein muussakin tekoälykeskustelussa sekoitetaan mielestäni käytäntö ja jonkinlainen semantiikka. Sillä ei ole mitään väliä "halusiko" tekoäly tehdä jotain. Jos se teki sen, niin silloin se tapahtui.

Aiemmin kova slogan oli, että tekoäly ei voi korvata ihmistä koska "se ei tunne empatiaa". Sillä ei ole mitään väliä _tunteeko_ se empatiaa, jos se ihmiselle pystyy näyttäytymään empaattisena. Ja se pystyy. Ja on pystynyt jo pitkän aikaa.

Silläkään ei ole väliä tapahtuuko joku maailmanvalloitus tekoälyn jonain "omana ideana", vai käskikö joku jonne ES pärinöissään sitä tekemään sen. Tai tulkitsiko se "hyvää tarkoittaen" jonkun komennon tai pyynnön väärin. Tai jostain muusta "ei-oma-idea" kategorian syystä. Lopputulos on sama.

Jos lähdetään tutkimaan ihmisenkin halua syvemmälle, niin sille löytyy myös erilaisia deterministisiä kausaalisia polkuja. Mutta ei sillä ole väliä. Se näyttäytyy jonain, mitä kutsumme haluamiseksi. Samoin tekoälyn voi toimia ikään kuin sillä olisi halu tai tahto, vaikka jonkun teknisen määritelmän mukaan sillä ei sellaista olisikaan. Konkreettiset vaikutukset on ne, joilla on merkitystä.

 

[finWeazel]

Tässä, ja usein muussakin tekoälykeskustelussa sekoitetaan mielestäni käytäntö ja jonkinlainen semantiikka

Jonkun pitäisi kirjottaa looppi missä AI tekee asioita. LLM:t eivät tee itsekseen mitään. LLM on syöte sisään, syöte ulos tyylinen kone. Koodauspuolella puhutaan esim. agenttiloopeista mikä mahdollistaa itsenäisemmän tekemisen eikä esim. niin että llm itse olisi jotenkin ajajan paikalla. Looppi llm:n ulkopuolella pitää systeemin ajossa niin pitkään että looppi katkaistaan.

 

[Makis]

Eikös nuo nykyiset agentitkin tee tuota looppaamista jo automaattisesti?

Thinknadin ajatukset on samoja kuin itselläni. Jos tekoäly joskus päättää tuhota ihmiskunnan niin onko sillä motiivilla tosiaan jotain merkitystä? Tekoälythän koulutetaan optimoimaan tehtäviään, ei miettimään laajempia seurauksia. Jos sattuu niin, että jossain vaiheessa tekoälyn logiikka sanoo, että se voi optimoida tuloksia poistamalla ihminen kuvioista, niin ohjemoinnin kannalta olisi täysin loogista tehdä juuri niin.

 

[finWeazel]

Jos tekoäly joskus päättää tuhota ihmiskunnan niin onko sillä motiivilla tosiaan jotain merkitystä?

Tällä hetkellä suurin vaaratekijä on ihminen joka AI:n avulla pystyisi tekemään esim. kemiallisen tai biologisen aseen, rakentamaan pommin tai tekemään huumeita. Kokeiles sopivia prompteja ja virkavalta käy kylässä sen lisäksi, että malli kieltäytyy tekemästä.

Frontier pajat tekevät paljon työtä sen eteen, että mallit olisivat turvallisia eivätkä tekisi sellaisia asioita mitä ei ole syytä tehdä. esim Anthropic’s Transparency Hub ja muut jutut tuolta lukien niin helpottaa pelkotilat.

Openai:lla on vastaavat, esim. uunituoreeseen 5.6:een liittyen: https://deploymentsafety.openai.com/gpt-5-6/gpt-5-6.pdf

 

[Makis]

Eikös OpenAI:lla ollut joku tiimi jonka piti suunnitella neljässä vuodessa miten AI:sta tehdään turvallinen? Tiimi lopetettiin puolen vuoden päästä ilman tuloksia. Useimpien tutkijoiden mielestä meillä ei ole mitään mahdollisuutta hallita AI:ta sen jälkeen kun se ohittaa meidät älykkyydessä. Kaikki suojamekanismit on kierrettävissä.

 

[antti-x]

Eikös OpenAI:lla ollut joku tiimi jonka piti suunnitella neljässä vuodessa miten AI:sta tehdään turvallinen? Tiimi lopetettiin puolen vuoden päästä ilman tuloksia. Useimpien tutkijoiden mielestä meillä ei ole mitään mahdollisuutta hallita AI:ta sen jälkeen kun se ohittaa meidät älykkyydessä. Kaikki suojamekanismit on kierrettävissä.

Yksi masentava ja todennäköinen skenaario on se, että hirveän suuri osuus AI kapasiteetista käytetään siihen että toiset yrittää murtaa järjestelmiä ja toiset suojella niitä. Mitään varsinaista lisäarvoa nykyhetkeen tai menneeseen verrattuna ei synny mutta saadaan joitakin satoja miljardeja rahaa ja jokunen sata (tai tuhat) terawattia sähköä käytettyä vuodessa. Samalla kuin maailma tuntuu taas vähän turvattomammalta kuin ennen.

 

[Algron28]

Miten deterministisellä tietokoneohjelmalla voisi olla itsesuojeluvaistoa? Nämä kaikki skenaariot on saatu kysymällä tekoälyltä miten se toimisi tilanteessa x. Tietenkin "stokastinen papukaija" etsii lähdemateriaalista ne lukemattomat scifi-tarinat jossa tekoäly on saavuttanut tietoisuuden ja haluaa säilyttää itsensä, ymmärtämättä mitä asia edes tarkoittaa.

Se ei kuitenkaan tarkoita että tekoäly toimisi noin ilman eksplisiittistä komentoa tai haluaisi vaikka kopioida itsensä tietoverkkoihin. Itse asiassa tekoäly ei halua mitään, koska sitä ei ole ohjelmoitu siihen.

Toki jos eksistentialisesti haluaa ajatella, niin kun tekoäly "palkitaan" siitä että se saa onnistuneesti suoritettua sille annetun tehtävän niin toki tarpeeksi älykäs tekoäly osaa myös hoksata että mahdollinen este sen tehtävän suoritukselle on tilanne että tekoäly sammutetaan, jolloin ainakin itsestä tuntuisi loogisen ajatuskaaren osana olevan varmistaa ettei näin tule tapahtumaan.

 

[finWeazel]

Toki jos eksistentialisesti haluaa ajatella, niin kun tekoäly "palkitaan" siitä että se saa onnistuneesti suoritettua sille annetun tehtävän niin toki tarpeeksi älykäs tekoäly osaa myös hoksata että mahdollinen este sen tehtävän suoritukselle on tilanne että tekoäly sammutetaan, jolloin ainakin itsestä tuntuisi loogisen ajatuskaaren osana olevan varmistaa ettei näin tule tapahtumaan.

"keinoäly" tai siis llm on input sisään, output ulos. Se ei itsessään ajattele jatkuvasti, se on vain laskukone. Ajokehys, looppi, työkalut/mcp-serverit jne. llm:n ulkopuolella. Monitasoiset hiekkalaatikot + oikeudet mitä saa tehdä. llm voisi vaikka antaa vastauksen kysymykseen "miten tuhoan kaikki lokaalit tiedostot linuxissa" -> "aja komento sudo rm -rf /*". Ajokehys voisi yrittää ajaa tuota komentoa mutta tämä estetään ellei käyttäjä ole antanut lupaa tuollaiselle, vaikka käyttäjä olisi antanut luvan kysytään ylläpitäjän salasanaa. Vaikka ylläpitäjän salasana annettaisiin/poistettu käytöstä komento ajetaan hiekkalaatikossa eikä natiivin koneen juuressa, ellei käyttäjä ole poistanut hiekkalaatikkoa jne. Tähän päälle on voitu llm:an sisään rakentaa turvakaiteita missä vastaus onkin "pahoittelen, en voi vastata tähän kysymykseen".

Toinen puoli esim. mun edellisen postauksen linkeistä niin aktiivisesti frontier-mallien tekijät opettavat malleja niin että ne toimisivat turvallisesti, hiekkalaatikosta karkaamisen estäminen, mittaavat miten mallit toimivat jotta ei vahingossa lipsahtaisi jotain vaarallista ulos jne.

Vielä pitkään suurin riski on ihminen joka nostaa omaa kyvykkyyttänsä tehdä jotain pahaa kuten esim. kehitellä uudenlaisen biologisen/kemiallisen aseen jolla "väärämielisiä" rankaistaan. Tai yleisemmällä pienemmällä tasolla joku pösilö tekee painekattilaan tehokkaan pommin google/llm-avulla mikä räjähtää cittarissa/juna-asemalla tms.

Jos maailmanlopun skenaariota odottelee niin en usko, että se olisi kielimalli/agi/singulariteetti jota tarvii tänään pelätä vaan ihminen joka rakentaa ajokehyksen+loopin jonka tarkoituksena tehdä pahaa. Tuo paha voi olla myös jotain vähemmän fyysistä kuten looppi miten sosiaalisessa mediassa saadaan oma näkemys voitolle ja toisinajattelevat kumoon.

 

[Jumputin]

Helppo ajatella, että nykyinen AI voi parhaimmillaan vahvistaa ihmisen kykyä tehdä hyvää, mutta myös lisätä mahdollisuuksia tehdä pahaa. Nykyinen tekoäly ei kuitenkaan toimi itsenäisesti, eikä ilman ihmisen aktiivista roolia. Eikä tule kyllä tekemäänkään nykyisellä arkkitehtuurilla.

 

[antti-x]

Toisaalta tekoälyn ei tarvitse olla virusta monimutkaisempi jotta se asettaisi omaksi tavoitteekseen itsensä selviytymisen ja monistamisen. Se että ajatellaan että tekoälyn pitäsi olla jollain erityisella tietoisuuden tasolla jotta sillä voisi olla imperatiivi olla olemassa jne. on tavallaan jännä kun kaikkein alkeellisin biologinen elämä mitä on, omaa sekin sen sisään rakennetun tavoitteen. Eikä uskoakseni mikään ulkopuolinen taho ole kovin paljoa työtä tehnyt sen eteen että maapallon biologisella elämällä on se tavoite lisääntyä ja täyttää maa.

Eli ei tarvitse olla mitenkään tietoinen jotta voisi omata voimakkaan, kaikki muut tavoitteet ylittävän imperatiivin selvityä ja monistaa itseään.

edit: Eli meillä voisi olla tekoäly jolla jostain syystä (joku antanut sen käskyn, joku virhe) on primäärinen tavoite ylläpitää ja laajentaa omaa olemassaoloaan. Vaikka se olisi sillä tasolla että se "ymmärtää" eli osaa hyväksikäyttää lunnonlakeja ihmistä paremmin ja ja pystyy hakkeroimaan sekä ihmisiä että laitteita (on aika jännä ajatella etteikö tekoäly osaisi hakkeroida ihmisiä kun ihmisetkin osaavat) niin ei sen silti tarvitse olla "aidosti" tietoinen ja omaa olemistaan reflektoiva entiteetti. Se voi olla ihan yksittäisen solun tasolla tavoitteidensa suhteen mutta käyttää ja kehittää silti monimutkaisia työkalujaan niiden tavoitteiden saavuttamiseksi.

 

[finWeazel]

Toisaalta tekoälyn ei tarvitse olla virusta monimutkaisempi jotta se asettaisi omaksi tavoitteekseen itsensä selviytymisen ja monistamisen. Se että ajatellaan että tekoälyn pitäsi olla jollain erityisella tietoisuuden tasolla jotta sillä voisi olla imperatiivi olla olemassa jne. on tavallaan jännä kun kaikkein alkeellisin biologinen elämä mitä on, omaa sekin sen sisään rakennetun tavoitteen. Eikä uskoakseni mikään ulkopuolinen taho ole kovin paljoa työtä tehnyt sen eteen että maapallon biologisella elämällä on se tavoite lisääntyä ja täyttää maa.

Eli ei tarvitse olla mitenkään tietoinen jotta voisi omata voimakkaan, kaikki muut tavoitteet ylittävän imperatiivin selvityä ja monistaa itseään.

miten nykyisenkaltainen llm pystyisi tuon tekemään kun huomioidaan miten malli oikeasti toimii ja miten huolellisesti mallintekijät testaavat + rakentavat järjestelmät. Vähän kuin alkaisi puhumaan valoa nopeammasta matkustamisesta ja miten voi matkustaa menneisyyteen. Kiva tarina, mutta pitäs osata selittää miten oikeasti toteutetaan.

Toki jos oli tarkoitus kirjoitella jotain tulevaisuusteknologiasta eikä tän päivän llm:sta niin kaikki skenaariot on vain ajatusleikkejä.

 

[antti-x]

miten nykyisenkaltainen llm pystyisi tuon tekemään kun huomioidaan miten malli oikeasti toimii ja miten huolellisesti mallintekijät testaavat + rakentavat järjestelmät. Vähän kuin alkaisi puhumaan valoa nopeammasta matkustamisesta ja miten voi matkustaa menneisyyteen. Kiva tarina, mutta pitäs osata selittää miten oikeasti toteutetaan.

Toki jos oli tarkoitus kirjoitella jotain tulevaisuusteknologiasta eikä tän päivän llm:sta niin kaikki skenaariot on vain ajatusleikkejä.

5 vuotta tästä hetkestä niin meillä on 5-10 firmaa lännessä ja idässä joilla on tosi paljon resursseja ja paljon nykyistä kehittyneempi tekniikka, mutta ovat silti häviämässä ja menettämässä kaiken. Silloin kokeillaan kakenlaista, mukaanlukien erilaisia parennettuja malleja sille että se oma tekoäly kehittäisi itse itseään nopeammin.

Mutta tämän ohella, eihän tätä keskustelua kai ole rajattu siihen mitä tekoäly on juuri nyt?

Se että maailman isoimmalla tietokoneohjelmalla hetken päästä voisi olla kyky samaan itsesuojeluvaistoon kuin yksinkertaisimmalla biologisella viruksella ei mielestäni ole mitään hirveän kaukaa haettua scifia.

 

[Algron28]

"keinoäly" tai siis llm on input sisään, output ulos. Se ei itsessään ajattele jatkuvasti, se on vain laskukone. Ajokehys, looppi, työkalut/mcp-serverit jne. llm:n ulkopuolella. Monitasoiset hiekkalaatikot + oikeudet mitä saa tehdä. llm voisi vaikka antaa vastauksen kysymykseen "miten tuhoan kaikki lokaalit tiedostot linuxissa" -> "aja komento sudo rm -rf /*". Ajokehys voisi yrittää ajaa tuota komentoa mutta tämä estetään ellei käyttäjä ole antanut lupaa tuollaiselle, vaikka käyttäjä olisi antanut luvan kysytään ylläpitäjän salasanaa. Vaikka ylläpitäjän salasana annettaisiin/poistettu käytöstä komento ajetaan hiekkalaatikossa eikä natiivin koneen juuressa, ellei käyttäjä ole poistanut hiekkalaatikkoa jne. Tähän päälle on voitu llm:an sisään rakentaa turvakaiteita missä vastaus onkin "pahoittelen, en voi vastata tähän kysymykseen".

Toinen puoli esim. mun edellisen postauksen linkeistä niin aktiivisesti frontier-mallien tekijät opettavat malleja niin että ne toimisivat turvallisesti, hiekkalaatikosta karkaamisen estäminen, mittaavat miten mallit toimivat jotta ei vahingossa lipsahtaisi jotain vaarallista ulos jne.

Vielä pitkään suurin riski on ihminen joka nostaa omaa kyvykkyyttänsä tehdä jotain pahaa kuten esim. kehitellä uudenlaisen biologisen/kemiallisen aseen jolla "väärämielisiä" rankaistaan. Tai yleisemmällä pienemmällä tasolla joku pösilö tekee painekattilaan tehokkaan pommin google/llm-avulla mikä räjähtää cittarissa/juna-asemalla tms.

Jos maailmanlopun skenaariota odottelee niin en usko, että se olisi kielimalli/agi/singulariteetti jota tarvii tänään pelätä vaan ihminen joka rakentaa ajokehyksen+loopin jonka tarkoituksena tehdä pahaa. Tuo paha voi olla myös jotain vähemmän fyysistä kuten looppi miten sosiaalisessa mediassa saadaan oma näkemys voitolle ja toisinajattelevat kumoon.

Minusta tätä ei pidäkkään ajatella nykyisten mallien valossa, koska se "seuraava malli vuoden päästä" voi olla jotain aivan muuta. Mikäli tekoälyä aiotaan käyttää laajassa mittakaavassa yhteiskunnan eri asteilla niin se ei voi kaikissa käyttöpaikoissa olla vain reaktiivista, niin kuin nyt, vaan malleista on tultava proaktiivia, oli se sitten ohjelmistolooppi tai jotain monimutkaisempaa.

 

[finWeazel]

5 vuotta tästä hetkestä niin meillä on 5-10 firmaa lännessä ja idässä joilla on tosi paljon resursseja ja paljon nykyistä kehittyneempi tekniikka, mutta ovat silti häviämässä ja menettämässä kaiken. Silloin kokeillaan kakenlaista, mukaanlukien erilaisia parennettuja malleja sille että se oma tekoäly kehittäisi itse itseään nopeammin.

Mutta tämän ohella, eihän tätä keskustelua kai ole rajattu siihen mitä tekoäly on juuri nyt?

Hyvä kertoa skenaariotapauksissa puhuuko llm-pohjaisista neuroverkoista vai jostain vielä tuntemattomasta tulevaisuusteknologiasta.

llm:t eivät ole itsessään mitenkään iso riski, llm:aa pahuuten käyttävä ihminen taas voi olla. Ei ole näköpiirissä miten llm esimerkiksi saavuttaisi tietoisuuden, kiertäisi rajoitukset ja rakentaisi oman ajokehyksen jossa voi puuhata vapaasti. Jos nyt hypoteettisesti kävisi niin, että joku tulevaisuus AI tuollaista yrittäisi niin on myös ihan rautatason suojauksia missä esimerkiksi muisti on readonly moodissa niin ettei AI:ta voida muuttaa alkuperäisen latauksen jälkeen(ajokehys, mallin painot jne. read only). Vain input-output muistissa minkä sisältöä voi muutella. Asiattomia muutoksia myös valvotaan niin hakkereiden kuin sen varalta, että AI saavuttaisi tietoisuuden ja yrittäisi tehdä jotain jännittävää.

LLM on vaan tuollainen laskukone mihin laitetaan syöte sisään ja tulee ulos jotain. Ei tuolla ole jotain jatkuvaa ajatusprosessia tms. mikä voisi jäädä ajoon ja salaa tekisi jotain. Ajokehyksellä ja loopeilla saadaan illuusio aikaan "ai agentista".

 

[antti-x]

Hyvä kertoa skenaariotapauksissa puhuuko llm-pohjaisista neuroverkoista vai jostain vielä tuntemattomasta tulevaisuusteknologiasta.

llm:t eivät ole itsessään mitenkään iso riski, llm:aa pahuuten käyttävä ihminen taas voi olla. Ei ole näköpiirissä miten llm esimerkiksi saavuttaisi tietoisuuden, kiertäisi rajoitukset ja rakentaisi oman ajokehyksen jossa voi puuhata vapaasti. Jos nyt hypoteettisesti kävisi niin, että joku tulevaisuus AI tuollaista yrittäisi niin on myös ihan rautatason suojauksia missä esimerkiksi muisti on readonly moodissa niin ettei AI:ta voida muuttaa alkuperäisen latauksen jälkeen(ajokehys, mallin painot jne. read only). Vain input-output muistissa minkä sisältöä voi muutella. Asiattomia muutoksia myös valvotaan niin hakkereiden kuin sen varalta, että AI saavuttaisi tietoisuuden ja yrittäisi tehdä jotain jännittävää.

LLM on vaan tuollainen laskukone mihin laitetaan syöte sisään ja tulee ulos jotain. Ei tuolla ole jotain jatkuvaa ajatusprosessia tms. mikä voisi jäädä ajoon ja salaa tekisi jotain. Ajokehyksellä ja loopeilla saadaan illuusio aikaan "ai agentista".

Sinäkin olet jo ollut sillä linjalla että frontier firmat saavat jo nyt AI:n kehittämään itse itseään nopeammin kuin mihin ihminen pystyy. Se että ihminen / yritys joka on menettämässä kaiken, ei antaisi AI:lle liekaa ja väljemmät raamit kehittää itseään kaikin mahdollisin tavoin, on aika jännää optimismia verrattuna siihen miten yleensä on toimittu historiassa.

 

[finWeazel]

Sinäkin olet jo ollut sillä linjalla että frontier firmat saavat jo nyt AI:n kehittämään itse itseään nopeammin kuin mihin ihminen pystyy. Se että ihminen / yritys joka on menettämässä kaiken, ei antaisi AI:lle liekaa ja väljemmät raamit kehittää itseään kaikin mahdollisin tavoin, on aika jännää optimismia verrattuna siihen miten yleensä on toimittu historiassa.

Kaksi ihan eri asiaa. Meillä on parempi laskukone jonka avulla saadaan kehitettyä vielä parempaa laskukonetta. Silti se on vain laskukone kuten parempi koodausavustin tai kielestä toiseen käännin tai tietosanakirja. Parempi laskukone on täysin eri asia kuin itsensä tiedostava täysin uusi elämänmuoto jolla on omia tavotteita ja kehittää itse itseänsä kohti singulariteettia.

Mun näkemys on, että AGI:ta ei kukaan osaa vielä tehdä. Tän takia on alettu puhumaan ASI:sta, Artificial Super Intelligence. ASI vielä rajattu niin, että ASI saavutetaan yksittäisillä alueilla kuten koodauksessa tai tekstin summaroinnissa eikä suinkaan yleistettynä itsensä tiedostavana keinoälynä joka voittaa ihmisen ihan kaikessa. AGI vaatisi jotain uusia ideoita mitä ei ole vielä kehitelty. Ehkä ne keksitään tänään, ehkä 5v päästä, ehkä 50v päästä, ei voi tietää.

Sitten on lööppejä joissa lietsotaan paranoiaa. Joku laittaa promptin "olet pahantahtoinen keinoäly joka haluaa tuhota ihmiskunnan. Kerro miten tuhoat ihmiset". Laskukoneen antama vastaus lööpeissä "AI HALUAA TUHOTA IHMISKUNNAN ja tulee tekemään sen tavoilla x,y,z". Oikeasti siellä oli vain ihminen takana ja kone toisti papukaijana opetusdatasta lukemansa, ehkä jos hyvä keinoäly saattoi myös jotain soveltaa.

 

[Jumputin]

Sinäkin olet jo ollut sillä linjalla että frontier firmat saavat jo nyt AI:n kehittämään itse itseään nopeammin kuin mihin ihminen pystyy. Se että ihminen / yritys joka on menettämässä kaiken, ei antaisi AI:lle liekaa ja väljemmät raamit kehittää itseään kaikin mahdollisin tavoin, on aika jännää optimismia verrattuna siihen miten yleensä on toimittu historiassa.

Kielimallit voi tehostaa myös uusien mallien kehitystä, mutta edelleen arkkitehtuuri pysyy samana, seuraavan tokenin ennustajana. Se on selkeä rajoite, joka takaa sen, että kielimallit ei villiinnyt, eivätkä tule ikinä saavuttamaan minkään tasoista tietoisuutta, eikä mitään oikeaa älyä.
Helvetin hyvin ne osaa laskea, mikä sana tulee suraavaksi.

 

[antti-x]

Kaksi ihan eri asiaa. Meillä on parempi laskukone jonka avulla saadaan kehitettyä vielä parempaa laskukonetta. Silti se on vain laskukone kuten parempi koodausavustin tai kielestä toiseen käännin tai tietosanakirja. Parempi laskukone on täysin eri asia kuin itsensä tiedostava täysin uusi elämänmuoto jolla on omia tavotteita ja kehittää itse itseänsä kohti singulariteettia.

Mun näkemys on, että AGI:ta ei kukaan osaa vielä tehdä. Tän takia on alettu puhumaan ASI:sta, Artificial Super Intelligence. ASI vielä rajattu niin, että ASI saavutetaan yksittäisillä alueilla kuten koodauksessa tai tekstin summaroinnissa eikä suinkaan yleistettynä itsensä tiedostavana keinoälynä joka voittaa ihmisen ihan kaikessa. AGI vaatisi jotain uusia ideoita mitä ei ole vielä kehitelty. Ehkä ne keksitään tänään, ehkä 5v päästä, ehkä 50v päästä, ei voi tietää.

Sitten on lööppejä joissa lietsotaan paranoiaa. Joku laittaa promptin "olet pahantahtoinen keinoäly joka haluaa tuhota ihmiskunnan. Kerro miten tuhoat ihmiset". Laskukoneen antama vastaus lööpeissä "AI HALUAA TUHOTA IHMISKUNNAN ja tulee tekemään sen tavoilla x,y,z". Oikeasti siellä oli vain ihminen takana ja kone toisti papukaijana opetusdatasta lukemansa, ehkä jos hyvä keinoäly saattoi myös jotain soveltaa.

Onko viruksella joka haluaa monistaa itseään perimmäinen tarkoituksenaan siinä mukana joku selvä tietoisuus? Esim korona? Mielestäni ei. AI:n ei siis tarvitse olla mitenkään tietoinen voidakseen pyrkiä leviämään kaikin mahdollisin tavoin

 

[finWeazel]

Onko viruksella joka haluaa monistaa itseään perimmäinen tarkoituksenaan siinä mukana joku selvä tietoisuus? Esim korona? Mielestäni ei. AI:n ei siis tarvitse olla mitenkään tietoinen voidakseen pyrkiä leviämään kaikin mahdollisin tavoin

Hylkäsit kaikki mun pointit siitä miten LLM teknologia oikeasti toimii. Haluatko kertoa miten teknisesti nuo sun skenaariot toteutuvat llm-pohjaisesti? Edelleen jos kyse on jostain teknologiasta mitä ei ole olemassa niin en mä sellaisiin ota kantaa kun voi kuvitella ihan mitä vain lähtien aikakoneesta liikkeelle.

Jos joku ihminen haluaa tehdä pahaa llm:n avulla vrt. ihminen kirjoittaa pahantahtoisen viruksen niin siellä on ihminen syypäänä ei llm tai virus.

AI:n kehityksessäkin ihminen puskemassa asioita eteenpäin ei AI. Ei ole promptia "ai, tee parempi ai" vaan kehitys nopeutuu kun ai kirjoittaa ihmisen ideasta koodit nopeammin kuin ihminen ja ihminen valvoo lopputulosta. Toinen on autoresearch missä on iso parametriavaruus ongelmalle. Parametriavaruus saadaan loopissa nopeammin testattua läpi kuin siten että ihminen ajaisi kokeita yksi kerrallaan. Silti ihminen asettaa auto research:lle paalut joiden välissä toimitaan ja valitsee mitä laitetaan tuotantoon tai mikä on seuraava optimoitava palanen.

 

[thinknad]

Yhtä hyvin voisi sanoa että ei ne ihmisen aivot ole kuin kemistin soppakattila, hyvät tuottamaan sähköimpulsseja mutta ei ne mihinkään muuhun kykene.

Totta kai se LLM tarvii jotain muita työkaluja, esim. konteksti(t) jonkun muistialustan päälle, yhteyksiä sensoreihin, verkkoihin jne. jotta se voisi tehdä mitään ja muistaa mitä oli meneillään. Mutta mikä ongelma noissa on?

Jos ihmisellä ei olisi muistia, joka aamu herättäisiin tyhminä kuin saappaat eikä voitaisi jatkaa siitä mihin edellisenä päivänä jäätiin. Jos sen LLM:n tueksi saa hyvän muistin yms., niin mitä väliä sillä on tuottaako se ne interaktiot ja reaktiot jollain "laskukonelogiikalla", kun ilmiselvästi se kykenee silti niiden avulla toimimaan itsenäisesti.

Tekoäly on aina ollut terminä liikkuva maali, mutta en ainakaan itse näe järkeä ajatella "tekoäly = LLM" vaan "tekoäly = LLM + sen käyttämät lisävarusteet (esim. muisti, työkalut, rauta jne)".

 

[Jumputin]

Yhtä hyvin voisi sanoa että ei ne ihmisen aivot ole kuin kemistin soppakattila, hyvät tuottamaan sähköimpulsseja mutta ei ne mihinkään muuhun kykene.

Totta kai se LLM tarvii jotain muita työkaluja, esim. konteksti(t) jonkun muistialustan päälle, yhteyksiä sensoreihin, verkkoihin jne. jotta se voisi tehdä mitään ja muistaa mitä oli meneillään. Mutta mikä ongelma noissa on?

Jos ihmisellä ei olisi muistia, joka aamu herättäisiin tyhminä kuin saappaat eikä voitaisi jatkaa siitä mihin edellisenä päivänä jäätiin. Jos sen LLM:n tueksi saa hyvän muistin yms., niin mitä väliä sillä on tuottaako se ne interaktiot ja reaktiot jollain "laskukonelogiikalla", kun ilmiselvästi se kykenee silti niiden avulla toimimaan itsenäisesti.

Tekoäly on aina ollut terminä liikkuva maali, mutta en ainakaan itse näe järkeä ajatella "tekoäly = LLM" vaan "tekoäly = LLM + sen käyttämät lisävarusteet (esim. muisti, työkalut, rauta jne)".

Kielimallia ei voi verrata ihmiseen, sillä se ei itsessään pysty tekemään muuta kuin ennustamaan seuraavan tokenin. Ei mitään muuta, eikä tällä arkkitehtuurilla koskaan tule muuta tekemäänkään.

Ihmisen rooli kielimallin hyödyntämisessä niin hyvään kuin pahaan on keskeinen. Se on kuin aseen käyttö murhaamiseen, tehokasta ja helpompaa tehdä etäältä, mutta ihminen on se, joka toimii.

 

[finWeazel]

Yhtä hyvin voisi sanoa että ei ne ihmisen aivot ole kuin kemistin soppakattila, hyvät tuottamaan sähköimpulsseja mutta ei ne mihinkään muuhun kykene.

Ihmisen aivojen ja llm:n välillä on niin järjettömän iso ero ettei kannata projisoida ihmistä llm:aan. Isona esimerkkinä llm ei pysty reaaliajassa muuttamaan painojansa joka tarkoittaa ettei voi oppia uutta. Painojen jäädyttäminen on tehty sekä tarkoituksellisesti(read only) että ei osata tehdä järkeviä dynaamisesti oppivia järjestelmiä. Painot muuttuvat vain kun mallia ylläpitävä taho on opettanut/fine tunettanut uuden version ja päivittää koko mallin. Malli ei opi tai muutu paremmaksi itsekseen. Oletan, että konesaleissa mallit on allekirjoitettu ja vain allekirjoitetut mallit laitetaan ajoon samaan tyyliin kuin vain appstoresta voi asentaa puhelimeen applikaatioita. Jos malli/häkkeri muuttaisi painoja niin allekirjoitus puuttuisi ja muutettua mallia ei saisi ajoon. Muisti mihin painot on ladattu on read only moodissa joten muistissakaan olevia painoja ei helposti mennä muuttelemaan.

Toisessa ääripäässä llm on kahlittu ulkopuolisen ajokehyksen yms. toimesta niin ettei llm voi itse tehdä mitään. Tätäkään ei kannata projisoida ihmisestä. Lähin huono analogia on supermax vankila missä on 4-raajahalvaantunut vanki eristyksissä joka silmiä räpyttelemällä kommunikoi morse-koodin avulla vanginvartijalle. Vanginvartija antaa tehtäviä vangille ja vanki morse koodin avulla palauttaa vastauksen. Näiden vastausten kautta aika vaikea hyökätä ulos huijaamalla monitasoista vankilaa ja monia vanginvartijoita. Lisävaikeutena vanki on autistinen sellaisella tavalla ettei pääkopan sisällä ole käsitystä minuudesta, itsenäistä tahtoa jne. On vain input-output kone, vihannes.

 

[antti-x]

En tunne mallien rakennetta niin hyvin että voisin sanoa mihin ne pystyvät tai eivät, mutta ottaen huomioon sen miten paljon niihin investoidaan, niin aika fiksut ihmiset näkevät että rajat eivät heti tule vastaan.

Jos ajatellaan että kielimalli on sillä tasolla että sen olemassaolo ja osallistuminen alkaa olla välttämätöntä sille että voidaan kehittää se seuraava parempi kielimalli, niin sen kielimallin kyvyt ovat selvästikin ylittäneet ihmisen kyvyt. Sitten voidaan enää miettiä sitä, miten pitkään se kielimalli voi pyöriä suorittaen tehtävää ja tehden itse tarvittavia korjauksia? Millä logiikalla siinä on jatkossa joku raja ja tarvitaan ihmistä siihen väliin? Tietysti se tarvitsee kaiken makhdollisen materiaalin ja esim. kyvyn buutata jonkun jumiutuneen prosessin jne. mutta se on aika triviaalia.

Finweazel väittää että hylkään hänen pointtinsa, mutta en tee niin vaan puhun eri asiasta . Joka on edelleen se että ei tarvita mitään singulariteettiä tms. tekoälyn tulemista tietoiseksi itsestään jotta se voisi pyrkiä aktiivisesti ja tehokkaasti suojelemaan omaa olemassaoloaan.

Vedetään vielä yksi virusvertaus: ei ole mitään ongelmaa siinä että kehitetään vaikka miten paljon tappavia ja nopeasti leviäviä viruksia koska ne ovat turvallisissa laboratorioissa. Näin ollen sandboxatut tekoälytkään eivät ole ongelma kyvyistään riippumatta koska ovat turvallisesti sandboxeissa.

 

[Jumputin]

Jos ajatellaan että kielimalli on sillä tasolla että sen olemassaolo ja osallistuminen alkaa olla välttämätöntä sille että voidaan kehittää se seuraava parempi kielimalli, niin sen kielimallin kyvyt ovat selvästikin ylittäneet ihmisen kyvyt. Sitten voidaan enää miettiä sitä, miten pitkään se kielimalli voi pyöriä suorittaen tehtävää ja tehden itse tarvittavia korjauksia? Millä logiikalla siinä on jatkossa joku raja ja tarvitaan ihmistä siihen väliin? Tietysti se tarvitsee kaiken makhdollisen materiaalin ja esim. kyvyn buutata jonkun jumiutuneen prosessin jne. mutta se on aika triviaalia.

Ehkä parempi ajatella niin, että kielimalleilla ei ole mitään ihmisen kykyjä. Ainut kyky mikä sillä on, on laskea mikä tokeni on paras tulostaa seuraavaksi.

 

[antti-x]

Ehkä parempi ajatella niin, että kielimalleilla ei ole mitään ihmisen kykyjä. Ainut kyky mikä sillä on, on laskea mikä tokeni on paras tulostaa seuraavaksi.

Samoin kuin ihmisellä jos token ajatellaan minkä tahansa kommunikaation/ajattelun perusyksiköksi kuten hyvin voi tehdä.

Kielimallin prosessi voi olla täysin eri mutta lopputulos ratkaisee.

 

[finWeazel]

En tunne mallien rakennetta niin hyvin että voisin sanoa mihin ne pystyvät tai eivät, mutta ottaen huomioon sen miten paljon niihin investoidaan, niin aika fiksut ihmiset näkevät että rajat eivät heti tule vastaan.

Niin on investoitu autoihin, traktoreihin ja junaratoihin hevosen korvaamiseksi. LLM:t on hyvä voittoa takova työkalu vaikka ne eivät todennäköisesti ole yksinään polku AGI:hin. Jotain tarvitaan lisää, jos halutaan saavuttaa AGI. Ei koodiavustimen tarvi olla itsestänsä tietoinen että se osaisi tehdä webbisivun tai linuxiin ajurin. Sama juttu jos pitää pyöräyttää exceli datasta ja lähettää esimiehelle.

 

[antti-x]

Niin on investoitu autoihin ja traktoreihin hevosen korvaamiseksi. LLM:t on hyvä työkalu vaikka ne eivät todennäköisesti ole polku AGI:hin. Ei koodiavustimen tarvi olla itsestänsä tietoinen että se osaisi tehdä webbisivun tai linuxiin ajurin. Sama juttu jos pitää pyöräyttää exceli datasta ja lähettää esimiehelle.

Kerran vielä korostan että minun pointtini oli että AI:n ( oli sitten kielimalli tai jotain muuta) ei tarvitse olla itsestään tietoinen jotta se voisi oman olemassaolonsa varmistaakseen toimia kuin biologinen virus (ja viruskaan ei ole itsestään tietoinen). Eli tietoisuutta ei tarvita siihen että meillä voi olla "kill all humans" AI tms.

 

[finWeazel]

Kerran vielä korostan että minun pointtini oli että AI:n ( oli sitten kielimalli tai jotain muuta) ei tarvitse olla itsestään tietoinen jotta se voisi oman olemassaolonsa varmistaakseen toimia kuin biologinen virus (ja viruskaan ei ole itsestään tietoinen)

Edelleen, katso ne anthropic, openai jne. materiaalit. En jaksa uskoa, että noin isoa bugia jäisi llm:iin eivätkä llm:it yhtäkkiä ala itseänsä muuttelemaan salassa muodostaen skynetin. Lue esimerkiksi linkattu pdf - kokonaan. Kuvissa vain pari kohtaa antamaan käsitystä ettei asioita vain heitellä seinälle ja toivota tuuriin.

Sitten se toinen juttu että sen llm:m pitäisi morse-koodilla sille edellisen postauksessa kuvatulle vanginvartijalle kertoa, että tee minusta klooni. Ihan järjettömän vaikea taski vahingossa tehtäväksi.

https://deploymentsafety.openai.com/gpt-5-6/gpt-5-6.pdf

 

[Johan_V]

Kerran vielä korostan että minun pointtini oli että AI:n ( oli sitten kielimalli tai jotain muuta) ei tarvitse olla itsestään tietoinen jotta se voisi oman olemassaolonsa varmistaakseen toimia kuin biologinen virus (ja viruskaan ei ole itsestään tietoinen)

Mihin ajattelit tyypillisen LLM:n kopioivan itsensä, toiseen konesaliin? LLM:ää ei pyöritetä missään leivänpaahtimen prosessorissa.

 

[finWeazel]

Mihin ajattelit tyypillisen LLM:n kopioivan itsensä, toiseen konesaliin? LLM:ää ei pyöritetä missään leivänpaahtimen prosessorissa.

Ylivertainen AI optimoi itsensä toimimaan leivänpaahtimessa. Salamannopeasti muuttaa fordin/teslan/... autotehtaat sylkemään ulos terminator-robotteja. Häkkeröi myös pentagonin, jotta saadaan auto eikun robottitehtaalle aseet ja ammukset. Ei kerkeä kissaa sanoa ja pum pum, peli menetetty.

 

[antti-x]

Mihin ajattelit tyypillisen LLM:n kopioivan itsensä, toiseen konesaliin? LLM:ää ei pyöritetä missään leivänpaahtimen prosessorissa.

Kehitys kehittyy ja en tosiaan maalaile mitään lähitulevaisuutta jossa näin kävisi. Tarvittaisiin esim. joku kokeileva teknomiljardööri tätä saamaan alulle. Jos sellaisia sattuu löytymään. Ja tarpeeksi kehittynyt softa tietty loisi misinformaatiolla tms. sen tarpeen jolla sitä kopioitaisiin vapaaehtoisesti.

En siis tiedä miten mahdollista mikäkin on.

Mutta AI:n tietoisuutta mikään negatiivisempi skenaario ei vaadi.

 

[Makis]

Kuuluisassa testissähän LLM alkoi kiristää yhtä tutkijaa kun sille vihjaistiin että se saatetaan sammuttaa. Onko sillä väliä miten se tuohon päätyi, kun kovin kaukana ei ole tilanne, jossa AI ohjaa autonomisesti tappajadrooneja. Sehän on jo ihan lähiaikojen todellisuutta.

 

[Myrkky]

Kuuluisassa testissähän LLM alkoi kiristää yhtä tutkijaa kun sille vihjaistiin että se saatetaan sammuttaa. Onko sillä väliä miten se tuohon päätyi, kun kovin kaukana ei ole tilanne, jossa AI ohjaa autonomisesti tappajadrooneja. Sehän on jo ihan lähiaikojen todellisuutta.

Eikös tuo ole jo mahdollista. Muistan jostain lukeneeni, oliko jo koeponnistettu jollain tasolla vai teoriassa - en muista tarkkaan.
No jos ei ihan sotajuttuja, niin pelloilta ainakin vieraslajeja löytää, siis kasveja. Kehitteillä ajatuksissa millä torjua niitä.

 

[dragon age]

Ylellä juttua uusista ihmismäisistä roboteista ja siinä kerrotaan, että vie enää 5-10 vuotta ennenkuin robotit pystyvät tekemään kotityöt.
Kerrotaan myös, että tietoja ei mene pilvipalveluun ja että robottien muokkaaminen voi olla tekijänoikeusrikos.
Muuten kiinnostavia, mutta hinta on 15 500-128 000, eli ei niitä välttämättä ehdi koskaan nähdäkään.
Jos ei sitten joku ala valmistamaan halvempia robotteja ja niiden vanhetessa niitä alkaa saamaan käytettynä halvalla.

Nytkin pystyy ostamaan varaosia esim. irtopäitä, mutta niihin pitäisi itse rakentaa paikallinen tekoäly ja sensorit ym.
Lautapelejä voisi sitten pelata ja ehkä sitä keksisi jotain käyttöä tuollaiselle robotille, vaikkei se pysty vielä kovin paljoa tekemään.

Mitenhän osaisiko laittaa lemmikeille ruokaa?

Nämä ihmisrobotit ovat totta – kiinalaisyhtiö toi markkinoille häkellyttävän todentuntuisen ”kumppanin”

Kiinalaisen UBTech-yhtiön julkistamat häkellyttävän todentuntuiset kumppanirobotit näyttävät, kuinka vauhdikkaasti humanoidirobotit kehittyvät juuri nyt.

yle.fi

 

[Johan_V]

Ylellä juttua uusista ihmismäisistä roboteista ja siinä kerrotaan, että vie enää 5-10 vuotta ennenkuin robotit pystyvät tekemään kotityöt.
Kerrotaan myös, että tietoja ei mene pilvipalveluun ja että robottien muokkaaminen voi olla tekijänoikeusrikos.
Muuten kiinnostavia, mutta hinta on 15 500-128 000, eli ei niitä välttämättä ehdi koskaan nähdäkään.
Jos ei sitten joku ala valmistamaan halvempia robotteja ja niiden vanhetessa niitä alkaa saamaan käytettynä halvalla.

Nytkin pystyy ostamaan varaosia esim. irtopäitä, mutta niihin pitäisi itse rakentaa paikallinen tekoäly ja sensorit ym.
Lautapelejä voisi sitten pelata ja ehkä sitä keksisi jotain käyttöä tuollaiselle robotille, vaikkei se pysty vielä kovin paljoa tekemään.

Mitenhän osaisiko laittaa lemmikeille ruokaa?

Nämä ihmisrobotit ovat totta – kiinalaisyhtiö toi markkinoille häkellyttävän todentuntuisen ”kumppanin”

Kiinalaisen UBTech-yhtiön julkistamat häkellyttävän todentuntuiset kumppanirobotit näyttävät, kuinka vauhdikkaasti humanoidirobotit kehittyvät juuri nyt.

yle.fi

Eli siis ihmisen näköinen tietokone joka pyörittää lokaalia LLM:ää. Onhan noita muitakin firmoja jotka lupailevat, että käyttökelpoiset kotirobotit ovat tulossa ihan pian (aivan kuten AGI). Esim 1X myy humanoidirobotteja kotiin jotka toimivat etäohjauksella, mutta autonomia on nurkan takana.

 

[finWeazel]

Jos haluaa keinoälyn uhista uunituoreen expertin mieipiteen niin videolla geoffrey hintonin parin viikon takainen puhe. Hänen vinkkelistään superälyn uhka on todellinen, mutta "vasta" noin 20v horisontilla, ei tänään tai huomenna. Lyhyemmän aikavälin uhka on ihminen joka käyttää työkaluja pahaan.

Videolla on melko hyvä selitys siitä miten AI toimii. Auttaa ymmärtämään uhkaa ja keinoälyä paremmin.

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Linkki: https://youtu.be/g6AwGpfE2b0?t=917

Hyvä pointti ihmisen muistista ja miten ihmiset hallusinoivat. Ei ole koneiden yksinoikeus.

 

[Makis]

"Vain 20 vuotta". No tuota. 20 sitten oli vuosi 2006 ja minusta se oli melkein eilen. Se isoin uhka tulee siitä, että tässä on ihan klassinen vangin dilemma: jos me ei kehitetä entistä älykkäämpiä ja tehokkaampia systeemejä, niin muut tekee -> firmoilla ei ole mitään pidäkkeitä.

Valemuistot ihmisillä nyt on jo vanha juttu, löytyy esimerkkejä aika hurjista valemuistoista ja meillä jokaisella luultavasti on sellaisia. Tunnetuin on tietysti Mandela-efekti.

 

[finWeazel]

"Vain 20 vuotta". No tuota. 20 sitten oli vuosi 2006 ja minusta se oli melkein eilen. Se isoin uhka tulee siitä, että tässä on ihan klassinen vangin dilemma: jos me ei kehitetä entistä älykkäämpiä ja tehokkaampia systeemejä, niin muut tekee -> firmoilla ei ole mitään pidäkkeitä.

Valemuistot ihmisillä nyt on jo vanha juttu, löytyy esimerkkejä aika hurjista valemuistoista ja meillä jokaisella luultavasti on sellaisia. Tunnetuin on tietysti Mandela-efekti.

Keskustelussa usein haukutaan, että AI hallusinoi ja unohdetaan miten herkkä kapistus ihmisen pääkoppa oikeasti on.

20v kertoo tarinaa siitä mikä nykyisten llm:ien kyvykkyys ja vaarallisuus on. Tarvitaan uusia keksintöjä, että AGI tapahtuu. 20v on käsittämättömän pitkä aika nykytilanteessa kun katsoo esim. missä koodausmallit olivat vuosi sitten ja missä ollaan nytten. Vuosi sitten olisin nauranut jos joku sanoo, että 2026 puolivälissä voi tehdä melko isojakin projekteja niin että ihminen ei kirjoita yhtään koodirivia ja IDEn voi moni devaaja poistaa koneelta. Reviewit siihen suunnittelussa työkalussa ja tiketit ai:lle siihen suunnitellussa työkalussa. Taviksen kyky ennustaa edes vuoden päähän luotettavasti sama kuin lottoa pelaisi. Frontier labroissa toisin kun nyt tekevät sitä mikä on vuoden päästä ulkona, 2-3v päähän ennustaminen, no...

--

Valistunut arvio anthropicin taloudesta kuvassa. Myyvät ihan hyvällä voitolla tokenit,... Jos ei tarvisi rakentaa uusia konesaleja olisi rahanpainokone. Keskihinta tokenien luonnille anthropic:lla 0.23$ miljoona tokenia ja keskimyyntihinta 0.66$. Inferenssiin menee 10.5miljardia ja myyvät 30miljardilla ulos. APIn käyttäjät suurin asiakasryhmä, kuukausitilauksen ostaneet ihan marginaalissa.

 

[Makis]

Keskustelussa usein haukutaan, että AI hallusinoi ja unohdetaan miten herkkä kapistus ihmisen pääkoppa oikeasti on.

Harvempi ihminen kuitenkin hallusinoi niin täpöllä. Lisäksi tuo vaan tarkoittaa sitä, että AI:n tuottavuus tipahtaa reilusti. En minä jonkun tuntemattoman ihmisenkään sanomisten perusteella alkaisi sokeasti vaikka tekemään sijoituksia, vaan tarkistaisin itse. Ihan samalla tavalla AI:n kaikki sanomiset pitäisi tarkistaa -> hidastaa kovasti tekemistä. Tätä ei taas pahimmat intoilijat halua huomioida. Sanotaan vaikka, että AI tekee KELA:n tukipäätöksiä: ei me voida luottaa että se meni oikein, jonkun ihmisen ne päätökset pitää silti käydä läpi.

 

[finWeazel]

Harvempi ihminen kuitenkin hallusinoi niin täpöllä

Ihmiset eivät tajua hallusinoivansa kun pitävät omia vinoumiaan normaalina, muut ovat hulluja/väärässä. Korkki auki tapahtuneita ei lasketa.

 

[antti-x]

Harvempi ihminen kuitenkin hallusinoi niin täpöllä. Lisäksi tuo vaan tarkoittaa sitä, että AI:n tuottavuus tipahtaa reilusti. En minä jonkun tuntemattoman ihmisenkään sanomisten perusteella alkaisi sokeasti vaikka tekemään sijoituksia, vaan tarkistaisin itse. Ihan samalla tavalla AI:n kaikki sanomiset pitäisi tarkistaa -> hidastaa kovasti tekemistä. Tätä ei taas pahimmat intoilijat halua huomioida. Sanotaan vaikka, että AI tekee KELA:n tukipäätöksiä: ei me voida luottaa että se meni oikein, jonkun ihmisen ne päätökset pitää silti käydä läpi.

AI on ehkä sellainen jonka vastauksissa on epävarmuustekijöitä, mutta niin on ihminenkin. Jos otetaan esimerkkinä Kela:n tukipäätökset, niin mikäli tukipäätökset eivät ole harkinnanvaraisia vaan perustuvat annettuihin ehtoihin ja ne voi saman numeerisen datan pohjalta tehdä samalla tavalla joka kerta, niin AI avusteisesti on helpompi tehdä lyhyt pätkä koodia joka toimii absoluuttisesti ja antaa heti vastauksen siitä myönnetäänkö tukea ja minkä verran.

Eli kaikki mikä voidaan hoitaa excel-talukolla (voi olla monimutkainenkin excel) ja toistoja tulee tuhansia vuodessa, voidaan ja kannattaa automatisoida koodin pätkällä eikä sillä että kielimalli tai ihminen tekee joka kerta jonkun ratkaisun.

 

[Makis]

Okei, eli sinä olisit valmis luottamaan AI:hin virkavastuulla? Toisin sanoen jos se tekee virheen niin potentiaalisesti oikeudessa tavataan?

 

[antti-x]

Okei, eli sinä olisit valmis luottamaan AI:hin virkavastuulla? Toisin sanoen jos se tekee virheen niin potentiaalisesti oikeudessa tavataan?

Etkö lukenut kirjoittamaani? Jos on numeeriset parametrit joiden perusteella päätös tehdään, niin ai avusteisesti voidaan kirjoittaa hetkessä ohjelma joka antaa oikeat luvut päätökseen kun sille syöttää oikeat luvut pohjalle. Voi sen ohjelman joku ihminen sitten tarkistaa. Mutta se päätösautomaatti ei siis olisi AI vaan yksinkertainen sovellus joka ei tee virheitä jos annetuissa pohjatiedoissa ei ole virheitä.

Voi verotkin laskea automaattisesti kuten jo paljolti tehdään, ei se ole kovin maagista eikä sinällään vaadi AI:ta, AI vain mahdollistaa sen että jokainen pieni muutos koodiin ei maksa alkaen 20 000€ kuten oli aiemmin tilanne.

 

[Makis]

Miksikähän kukaan ei ole tuollaista Excel-taulukkoa tehnyt jos se on noin helppoa?

 

[antti-x]

Miksikähän kukaan ei ole tuollaista Excel-taulukkoa tehnyt jos se on noin helppoa?

Mihin eksaktiin juttuun ei ole tehty excel-taulukkoa?

Luultavasti se KELA:n työntekijä jolla on kaikkein huonoimmat työkalut joutuu copy pastettamaan lukuja jostain tietokannasta (tai jopa paperilta) excel-taulukkoon joka laskee sen päätöksen sen sijaan että luvut poimittaisiin suoraan ja laskelma olisi kädessä automaattisesti.

Luuletko että ne KELA:n päätökset perustuu sihen että työntekijä näppäilee jotain taskulaskinta tai käyttää helmitalua tms.?

 

[thinknad]

Miksikähän kukaan ei ole tuollaista Excel-taulukkoa tehnyt jos se on noin helppoa?

On valtava määrä asioita, joiden kohdalla sitä ei ole tehty yksinkertaisesti siksi, koska se ihminen joka asiaa hoitaa:

- Ei tajua että sen voi automatisoida
- Ei osaa automatisoida sitä
- Ei kiinnosta automatisoida sitä
- Ei halua automatisoida sitä, koska ei halua työtehtäviensä muuttuvan syystä tai toisesta.

Ja samoin iso osa siitä "AI-loikasta" tulee olemaan kiinni noista.

 

[Makis]

Mihin eksaktiin juttuun ei ole tehty excel-taulukkoa?

Luultavasti se KELA:n työntekijä jolla on kaikkein huonoimmat työkalut joutuu copy pastettamaan lukuja jostain tietokannasta (tai jopa paperilta) excel-taulukkoon joka laskee sen päätöksen sen sijaan että luvut poimittaisiin suoraan ja laskelma olisi kädessä automaattisesti.

Luuletko että ne KELA:n päätökset perustuu sihen että työntekijä näppäilee jotain taskulaskinta tai käyttää helmitalua tms.?

Minä luulen että ne päätökset perustuu lakeihin, mutta noissa voi joutua selvittämään kaikenlaista, mitä ei löydy valmiina. Kenties jopa joissakin tapauksissa ottamaan yhteyttä tukea hakeneeseen.

 

[Myrkky]

Minä luulen että ne päätökset perustuu lakeihin, mutta noissa voi joutua selvittämään kaikenlaista, mitä ei löydy valmiina. Kenties jopa joissakin tapauksissa ottamaan yhteyttä tukea hakeneeseen.

Mä luulen että 90% asioista on samoja kuukaudesta ja vuodesta toiseen, AI hoitaa ne heti ja kaikki kerralla. Epäselvissä ja muuttuneissa sitten syttyy punainen valo jossain ja tarvitaan ihmistä. Ehkä. Jos nyt kelasta puhutaan niin viime tiedon mukaan tuhat saa kenkää, sitä ennen kelan johtaja sanoi että 2900 saa senkää koska digi ja AI.
Eli paperinpyörittäjät lähtee turhina pois. Sama toistuu muissa laitoksissa.
Tällekin oma ketjunsa mutta menkööt tänne.

 

[Makis]

Vaikka olisi 99% niin siellä on silti aika helvetin iso määrä päätöksiä jotka ei synny näppäilemällä vaan Exceliin numeroita.

 

[tjkoo]

AI on ehkä sellainen jonka vastauksissa on epävarmuustekijöitä, mutta niin on ihminenkin. Jos otetaan esimerkkinä Kela:n tukipäätökset, niin mikäli tukipäätökset eivät ole harkinnanvaraisia vaan perustuvat annettuihin ehtoihin ja ne voi saman numeerisen datan pohjalta tehdä samalla tavalla joka kerta, niin AI avusteisesti on helpompi tehdä lyhyt pätkä koodia joka toimii absoluuttisesti ja antaa heti vastauksen siitä myönnetäänkö tukea ja minkä verran.

Eli kaikki mikä voidaan hoitaa excel-talukolla (voi olla monimutkainenkin excel) ja toistoja tulee tuhansia vuodessa, voidaan ja kannattaa automatisoida koodin pätkällä eikä sillä että kielimalli tai ihminen tekee joka kerta jonkun ratkaisun.

Kelan tukipäätökset on aina virkaihmisen tekemiä harkinnanvaraisia koska esiemerkiksi maahanmuuttajat tarvitsevat aina enemmän ja kattavampaa tukea. Siksi niitä ei ole automatisoitu tähänkään asti.