Tekoäly

En näkis ainakaan koodaushommissa väärää vastausta show stopperina. Tekee ihmisetkin bugeja. Bugiton softa,öö,... Sillähän sinne väsätään testiä testinpäälle, ci putkea, QA:ta jne. Ehkä bugien määrä voi vähentyä, kun ihmisillä on aikaa keskittyä oleelliseen boilerplaten sijasta.

Joku fronttikoodin generointi ja sen yhdistäminen engineen määritelmästä olis kova juttu. Juu, muistan, että tää on ollut unelmana pitkään. Joskus kauan ja sitä kauemmin sitten koodasin delphillä ja jo sillon oli yritystä piirrä ui, yhdistä engineen työkaluun. Mut ehkä toi chatgpt ja sen variantit tulevaisuudessa onnistuu siinä mikä aikaisemmin epäonnistui.
 
Tätä oikeastaan haluaisin tietää sulta, että minkälaista yhdistämistä haet?
Kerrankin voin vastata aika lyhyesti ensimmäiseen osaan: en tarkalleen ottaen tiedä. Mutta se olisi jokin sellainen esitystapa, joka pystyy kuvaamaan monimuotoisen datan sisältämän informaation samoin kuin se transformerin sanavektori esittää vain yhden sekä sanan sijainnin lauseessa.

Eikö ne voisi samalla tavalla yhdistellä toisiina kuten teksti-teksti yhdistämisetkin tehdään?
Mikä tekee erimuotoisten datojen yhdistämisestä mahdotonta kun erilaisia tekstejäkin voidaan yhdistellä toisiinsa?
No tästä päästään jälleen siihen tiedon esitystapaan. ChatGPT, transformerit ja periaatteessa mitkä tahansa neuroverkot, hyvin karkealla tasolla ilmaistuna, kykenevät tekemään päätelmiä samanmuotoisesta datasta, koska syötteen esitystapa on aina sama. Jos ajatellaan vaikkapa ihan ääriyksinkertaistettua esimerkkiä, niin alta löytyvän kuvan vasemmalta puolelta syötetään verkkoon sana, joka on jossain toisessa prosessissa muunnettu kaksialkioiseksi vektoriksi (vihreät pallot). Ja sitten oikealta puolelta (keltainen pallo) tulee ulos jotakin järkevää tietoa (luku) siitä annetusta syötteestä.

1676477603336.png


Tällainen neuroverkko kykenee käsittelemään samanlaista tietoa (teksti-teksti), koska se tiedon formaatti on jokaisella syötteellä sama.

Mutta mitä sitten tehdään, jos halutaankin käsitellä multimodaalista tietoa eli kuvaa, ääntä jne. samaan aikaan? Lisätäänkö syötekerroksen kokoa, enemmän vihreitä palloja? Jossain vaiheessa siitä tulee ongelma, koska todelliset sanojen (tai tokeneiden kuten @Umbra esimerkissä) ovat satojen alkioiden kokoisia. Eli verkon koko kasvaa aivan järkyttävästi. Vai pidetäänkö vektoreiden koko suunnilleen samana, mutta jotenkin enkoodataan tekstuaalinen ja visuaalinen data yhteen? Silloin pitäisi tietää, mikä sellainen enkoodaus on. Ja entäpä sitten, kun tarvitaan mukaan vaikka ääntäkin?
Vai pidetäänkö vektoreiden koko samana ja syötetään verkkoon vain peräkkäin tekstuaalisia vektoreita, visuaalisia vektoreita jne? Silloin oikeastaan vain siirretään se ongelma jonnekin muualle, sillä tässä tapauksessa niiden erimuotoisten informaatiotapojen pitää olla riittävän yhtäpitäviä, jotta siitä koko datasta ei tule vain pelkkää kohinaa, josta verkko ei pysty oppimaan mitään.
Toki voidaan sitten myös sanoa, että käytetään erilaisia verkkoja eri datalle. Sitten meillä on kuitenkin useita keltaisia palloja, joten pitää tietää, miten niitä yhdistellään, jotta saadaan ulos haluttua tietoa. Tarvitaan siis jonkinlaista laajennettua arkkitehtuuria. Mikä se olisi?

Kuten sanottu, tämä on aivan äärimmäisen yksinkertaistettu esimerkki ihan vain perusneuroverkon toiminnasta, saati sitten vaikka jostakin ChatGPT:n rakenteesta. Mutta sitä haen tässä takaa, että tästä syystä ChatGPT:n kaltainen kielimallin laajentaminen muihin datamuotoihin ei ole mikään ihan yksinkertainen asia. Esimerkiksi jos ajatellaan kuvaa ja tekstiä, niin tekstissä sen sanan sijainti on periaatteessa yksiulotteinen asia ja kuvassa esineen sijainti ainakin kaksiulotteinen asia. Sen vuoksi asiassa on paljon huomioon otettavia tekijöitä, jotka ainakaan itselleni eivät ole selviä.

Kun sanoit, että ChatGPT ei redusoi tekstiäkään tekstiksi vaan koneen ymmärtämäksi dataksi, niin olet ihan oikeassa. Pohjimmiltaan siellä on tosiaan vain bittejä, vähän korkeammalla tasolla puhuttaessa sitten tosiaan matemaattisia esityksiä siitä datasta, eli vektoreita eli n-alkioisia järjestettyjä lukujoukkoja. Mutta kun jo pelkästään tekstin ja sanojen esittäminen vaatii monisata-alkioisia vektoreita, ja tekstuaalisen datan käsittelyyn järkyttävän määrän parametreja, niin minkälainen on arkkitehtuuri, joka käsittelee yhtä sujuvasti multimodaalista dataa?

The architecture is a decoder-only transformer network with a 2048-token-long context and then-unprecedented size of 175 billion parameters, requiring 800GB to store.

Ajattele siis edeltävän neuroverkkokuvan mukaista rakennetta, mutta sellaista, jossa on muutaman parametrin sijasta 175 miljardia parametria. Pelkästään tekstille.
 
Kerrankin voin vastata aika lyhyesti ensimmäiseen osaan: en tarkalleen ottaen tiedä. Mutta se olisi jokin sellainen esitystapa, joka pystyy kuvaamaan monimuotoisen datan sisältämän informaation samoin kuin se transformerin sanavektori esittää vain yhden sekä sanan sijainnin lauseessa.
Tämä voi olla osasyy miksi tämä asia tuntuu sinusta vaikealta. Kun ei osaa esittää kysymystä, niin on aika vaikea keksiä siihen vastausta.

No tästä päästään jälleen siihen tiedon esitystapaan. ChatGPT, transformerit ja periaatteessa mitkä tahansa neuroverkot, hyvin karkealla tasolla ilmaistuna, kykenevät tekemään päätelmiä samanmuotoisesta datasta, koska syötteen esitystapa on aina sama. Jos ajatellaan vaikkapa ihan ääriyksinkertaistettua esimerkkiä, niin alta löytyvän kuvan vasemmalta puolelta syötetään verkkoon sana, joka on jossain toisessa prosessissa muunnettu kaksialkioiseksi vektoriksi (vihreät pallot). Ja sitten oikealta puolelta (keltainen pallo) tulee ulos jotakin järkevää tietoa (luku) siitä annetusta syötteestä.

1676477603336.png


Tällainen neuroverkko kykenee käsittelemään samanlaista tietoa (teksti-teksti), koska se tiedon formaatti on jokaisella syötteellä sama.

Mutta mitä sitten tehdään, jos halutaankin käsitellä multimodaalista tietoa eli kuvaa, ääntä jne. samaan aikaan? Lisätäänkö syötekerroksen kokoa, enemmän vihreitä palloja? Jossain vaiheessa siitä tulee ongelma, koska todelliset sanojen (tai tokeneiden kuten @Umbra esimerkissä) ovat satojen alkioiden kokoisia. Eli verkon koko kasvaa aivan järkyttävästi. Vai pidetäänkö vektoreiden koko suunnilleen samana, mutta jotenkin enkoodataan tekstuaalinen ja visuaalinen data yhteen? Silloin pitäisi tietää, mikä sellainen enkoodaus on. Ja entäpä sitten, kun tarvitaan mukaan vaikka ääntäkin?
Vai pidetäänkö vektoreiden koko samana ja syötetään verkkoon vain peräkkäin tekstuaalisia vektoreita, visuaalisia vektoreita jne? Silloin oikeastaan vain siirretään se ongelma jonnekin muualle, sillä tässä tapauksessa niiden erimuotoisten informaatiotapojen pitää olla riittävän yhtäpitäviä, jotta siitä koko datasta ei tule vain pelkkää kohinaa, josta verkko ei pysty oppimaan mitään.
Toki voidaan sitten myös sanoa, että käytetään erilaisia verkkoja eri datalle. Sitten meillä on kuitenkin useita keltaisia palloja, joten pitää tietää, miten niitä yhdistellään, jotta saadaan ulos haluttua tietoa. Tarvitaan siis jonkinlaista laajennettua arkkitehtuuria. Mikä se olisi?

Kuten sanottu, tämä on aivan äärimmäisen yksinkertaistettu esimerkki ihan vain perusneuroverkon toiminnasta, saati sitten vaikka jostakin ChatGPT:n rakenteesta. Mutta sitä haen tässä takaa, että tästä syystä ChatGPT:n kaltainen kielimallin laajentaminen muihin datamuotoihin ei ole mikään ihan yksinkertainen asia. Esimerkiksi jos ajatellaan kuvaa ja tekstiä, niin tekstissä sen sanan sijainti on periaatteessa yksiulotteinen asia ja kuvassa esineen sijainti ainakin kaksiulotteinen asia. Sen vuoksi asiassa on paljon huomioon otettavia tekijöitä, jotka ainakaan itselleni eivät ole selviä.
Tuossahan esität jo itsekkin muutaman ratkaisuvaihtoehdon.

Itselle helpoimmalta vaihtoehdolta tuntuisi lähteä siitä että muutetaan kaikki sisään tulevat inputit samaan formaattiin. En näe tässäkään mitään suurta ongelmaa luoda jokin formaatti, jolla voidaan kuvata kuvia, ääniä ja tekstejä (tälläkin hetkellä tekstit ja äänet voi esittää kuvana). Oikeastaan tietokoneiden kanssahan näin tehdään jo muutenkin, kun kaikki data on ykkösiä ja nollia siellä levynpinnassa tai muistissa. Kuinka monta outputtia sitten tarvitaan riippuu siitä kuinka monessa eri formaatissa tavaraa halutaan ulos.
Eikä tuo useat tekoälyt ja tekoäly yhdistelemään niiden tulosta kuulosta sekään hullummalta.

Toki mallin koko kasvaa valtavasti kun siihen lisätään erilaisia inputteja eri formaateissa, mutta niinhän se kasvaa vaikka siihen lisättäisiin saman formaatinkin inputteja. Tämä koko ongelma on kuitenkin "helppo ongelma" ratkaista, lisää rautaa vaan tulille (lainausmerkeissä helppo, koska reaalimaailmassa ei tietenkään tehoa voi lisätä rajattomasti sormia napsauttamalla).
 
Eli tulevaisuudessa on suurin osa kansasta työttömiä ja kouluttamattomia, koska ei tarvitse tehdä tai osata mitään kun koneet tekee kaiken. Mutta sitten täytyy olla pieni osa kansasta todella fiksua porukkaa, eli ne jotka koodaa ja ylläpitää näitä tekoäly projekteja, tai ei tarvii jos koneilla on kaikki valta.
Lopulta tilanne on se, että koneet tekee tämänkin paremmin. Sitten ihmiset voisivat heittäytyä kokonaan oloneuvoksiksi. Tämän kuitenkin estää se, että tämä galaksin typerin apina ei osaa heittäytyä nauttimaan olemisesta, vaan se mieluummin käyttää kaiken energiansa päästäkseen jollain tapaa muiden apinoiden yläpuolelle.
 
Joku vääräleukasormi varmaan pasteaa täällä ChatGPT:n vastauksia kysymyksiin eivätkä muut edes huomaa.
Ei varmaan kauheasti vaatisi vaivaa valjastaa jotain ChatGPT:tä tai vastaavaa tällekkin foorumille levittämään automaattisesti sopivaa agendaa...
 
Olen tuosta GPT-3:sta joskus miettinyt, että ehkä olisi mahdollista rakentaa jo sen pohjalta jonkinlainen AGI:n tapainen. Tekisi sen ympärille ohjelmasilmukan, joka lukee ja muokkaa ja tarkistaa taukoamatta isoa tekstiä ja voi tehdä sen pohjalta tietokantaoperaatioitakin. Multimodaalisuuttakin siihen voisi kai lisätä. Hoitaisi eri komponenttien (näkö, kuulo, ...) välisen kommunikoinnin yhteisen tekstikäyttöliittymän kautta.

Mutta muuten kyllä neuroverkot ainakin nykyisessä muodossaan ovat minusta näyttäneet aina umpikujalta. Tai oikeammin ennen GPT-3:n julkaisua ne näyttivät täysin umpikujalta ja sen jälkeen vähintään heikosti optimoidulta. Suuret tiheät matriisit tuhlaavat energiaa aivan holtittomasti ja backpropagation taipuu huonosti jatkuvaan oppimiseen reaaliajassa. Nämä ovat aika isoja kehityksen esteitä.

Olen itse sitä koulukuntaa, jonka mielestä tieto ja toivotut kognitiiviset kyvyt olisi paras suunnitella ja koodata eksplisiittisesti eikä tyytyä toivomaan, että jospa jonnekin neuroverkkoon syntyy itsestään jotain mullistavaa uutta toiminnallisuutta, kun sille näyttää tarpeeksi dataa. Ei tekoälyn tarvitse olla pimeä mysteerilaatikko.

Voi myös olla, ettei mikään määrä passiivista lukemista ja katselua korvaa maailman kanssa vuorovaikuttamalla oppimista. En oikeastaan yllättyisi kovin pahasti, jos vielä joskus paljastuisi, että kaikki ihmisenkaltaisen tekoälyn luomiseen tarvittavat palapelin palaset oli keksitty jo 2022 tai aiemmin, mutta kenelläkään ei ollut aivan kaikki palaset koossa eikä resursseja kasvattaa "tekoälytaaperoa" 5 vuotta.
 
Tuossahan esität jo itsekkin muutaman ratkaisuvaihtoehdon. Itselle helpoimmalta vaihtoehdolta tuntuisi lähteä siitä että muutetaan kaikki sisään tulevat inputit samaan formaattiin. En näe tässäkään mitään suurta ongelmaa luoda jokin formaatti, jolla voidaan kuvata kuvia, ääniä ja tekstejä (tälläkin hetkellä tekstit ja äänet voi esittää kuvana).
Eiväthän ne ole mitään kunnollisia ratkaisuvaihtoehtoja vaan pelkkiä köykäisiä hypoteeseja. Koneoppimisen ja tekoälyn kanssa on tehty tolkuton määrä malleja ja tietorakenteita, jotka ovat vaikuttaneet paperilla ihan hyvältä, mutta jotka eivät todellisuudessa toimi ollenkaan. Aika usein on kyse lopulta kelvottomasta datasta, mutta ei aina. Se, että jokin vaihtoehto tuntuu helpolta, ei tarkoita sitä, että se on helppo. Tai vaikka se olisi helppo, ei tarkoita sitä, että se on toimiva.

Esimerkiksi tuo ajatus "muutetaan kaikki sisään tulevat inputit samaan formaattiin". Mikä se sama formaatti nyt ihan tarkalleen ottaen sitten on? Mikä on se neuroverkon tai neuroverkkojen tai muille toteutustavoille rakentuvien mallien arkkitehtuuri, joka tuollaista dataa ymmärtää? Ratkaisu saattaa olla olemassa, mutta on ihan eri asia, miten kauan sen löytämiseen menee.

Vähän kuin Fermat'n suuri lause 1600-luvulta. Näennäisesti äärimmäisen yksinkertainen lause, mutta todistaminen vei kuitenkin sellaiset 300 vuotta.
 
Viimeksi muokattu:
Eiväthän ne ole mitään kunnollisia ratkaisuvaihtoehtoja vaan pelkkiä köykäisiä hypoteeseja. Koneoppimisen ja tekoälyn kanssa on tehty tolkuton määrä malleja ja tietorakenteita, jotka ovat vaikuttaneet paperilla ihan hyvältä, mutta jotka eivät todellisuudessa toimi ollenkaan. Aika usein on kyse lopulta kelvottomasta datasta, mutta ei aina. Se, että jokin vaihtoehto tuntuu helpolta, ei tarkoita sitä, että se on helppo. Tai vaikka se olisi helppo, ei tarkoita sitä, että se on toimiva.

Esimerkiksi tuo ajatus "muutetaan kaikki sisään tulevat inputit samaan formaattiin". Mikä se sama formaatti nyt ihan tarkalleen ottaen sitten on? Mikä on se neuroverkon tai neuroverkkojen tai muille toteutustavoille rakentuvien mallien arkkitehtuuri, joka tuollaista dataa ymmärtää? Ratkaisu saattaa olla olemassa, mutta on ihan eri asia, miten kauan sen löytämiseen menee.

Vähän kuin Fermat'n suuri lause 1600-luvulta. Näennäisesti äärimmäisen yksinkertainen lause, mutta todistaminen vei kuitenkin sellaiset 300 vuotta.
Sama toimii myös toisinpäin. Jos jokin ongelma vaikuttaa vaikealta tai jopa mahdottomalta, ei tarkoita etteikö siihen voisi keksiä ratkaisua. Ratkaisu voi myös osoittautua todella yksinkertaiseksi sitten kun se keksitään ja taaksepäin katsoessa tuntuu suorastaan tyhmältä ettei tuota aiemmin ole keksitty. Etenkin tietotekniikassa on paljon asioita, mistä ollaan luultu, että ei jotain asiaa voi tehdä, mutta sitten muutama vuosi myöhemmin asia onkin ihan peruskauraa. Ratkaisu saattaa olla jopa jo keksitty, kukaan ei ole vaan tajunnut sitä vielä hyödyntää.

Mutta kuten tässäkin keskustelussa tullut jo usein ilmi niin ei tätä tiedä kukaan varmasti mitä tulevaisuus tuo tullessaan. Et sinä, enkä minä. Itse kuitenkin olen optimistinen, sekä siitä, että näissä nykyisissä malleissa on vielä paljon käyttämätöntä potentiaalia ja sekä siitä, että tulevaisuudessa uudenlaiset mallit tulevat olemaan laajempia, eikä pelkästään yhteen datatyyppiin perustuvia (mukaan lukien tuo, että osaavat yhdistää eri formaateissa olevaa dataa toisiinsa). Sinä ilmeisesti olet kyseisistä asioista pessimistinen. Se sitten jää nähtäväksi kumpi on "oikeassa".
 
Johan ne ohjelmanpätkät on korvanneet monessakin paikkaa ihmisiä. Esim kela, pankit, telia (telialle puhuvat ihan tekoälystä),facebook, tinderi jne. Ja kokoajan ottavat uudempaa ja parempaa tekniikkaa käyttöön. Eli se muutos on jo alkanut ja jatkuu vaan.
 
@tuoppi´ , olen kyllä pääosin samaa mieltä. Eikä siinä, että on optimistinen tai pessimistinen, ole kummassakaan sinänsä mitään vikaa. (Paitsi että, kuten täälläkin on tuotu ilmi, toiselle optimismi siitä, että tulevaisuudessa kone kykenee korvaamaan ihmisen, on toiselle pessimismiä... Mutta se on toki eri keskustelu.)

Se, mikä itseäni ottaa pannuun, on että spekulaatio esitetään varmana tietona, varsinkin kun sen tekee jossain julkisessa yhteydessä jonkinlaisena asiantuntijana esiintyvä henkilö. Jos joku ekspertti jossain haastattelussa sanoo, että ChatGPT on kova juttu ja nyt opettajien työpaikat ovat kohta vaarassa, niin useimpien opetusammattilaisten on aivan mahdotonta arvioida sellaista väitettä kunnolla. Ja alaa tuntevan pitäisi omasta mielestäni jo historiallisista syistä olla varovainen sen suhteen, minkälaiseen hypetykseen lähtee mukaan julkisessa keskustelussa. Pahimmillaan siitä tulee jonkin toisen ammattiryhmän julkista ja perusteetonta aliarvioimista. Ei spekuloinnissa sinänsä mitään väärää ole, mutta asiantuntijan pitäisi tuoda selkeästi se ilmi. (Useimmat kyllä ovatkin ihan pragmaattista porukkaa. Ainakaan oman pienen otantani perusteella en esimerkiksi työyhteyksissä ole törmännyt oikeastaan minkäänlaiseen hypeen. Mutta nämä tyypit eivät yleensä olekaan mediassa huutelemassa.)
 
  • Tykkää
Reactions: mti
@tuoppi´ , olen kyllä pääosin samaa mieltä. Eikä siinä, että on optimistinen tai pessimistinen, ole kummassakaan sinänsä mitään vikaa. (Paitsi että, kuten täälläkin on tuotu ilmi, toiselle optimismi siitä, että tulevaisuudessa kone kykenee korvaamaan ihmisen, on toiselle pessimismiä... Mutta se on toki eri keskustelu.)

Se, mikä itseäni ottaa pannuun, on että spekulaatio esitetään varmana tietona, varsinkin kun sen tekee jossain julkisessa yhteydessä jonkinlaisena asiantuntijana esiintyvä henkilö. Jos joku ekspertti jossain haastattelussa sanoo, että ChatGPT on kova juttu ja nyt opettajien työpaikat ovat kohta vaarassa, niin useimpien opetusammattilaisten on aivan mahdotonta arvioida sellaista väitettä kunnolla. Ja alaa tuntevan pitäisi omasta mielestäni jo historiallisista syistä olla varovainen sen suhteen, minkälaiseen hypetykseen lähtee mukaan julkisessa keskustelussa. Pahimmillaan siitä tulee jonkin toisen ammattiryhmän julkista ja perusteetonta aliarvioimista. Ei spekuloinnissa sinänsä mitään väärää ole, mutta asiantuntijan pitäisi tuoda selkeästi se ilmi. (Useimmat kyllä ovatkin ihan pragmaattista porukkaa. Ainakaan oman pienen otantani perusteella en esimerkiksi työyhteyksissä ole törmännyt oikeastaan minkäänlaiseen hypeen. Mutta nämä tyypit eivät yleensä olekaan mediassa huutelemassa.)

Puheenaiheen podcastissa oli myös aiheeseen liittyvää kekustelua. Haastateltavat oli tuossakin pitkälti sitä mieltä, että ChatGPT ja vastaavat tulevat muuttamaan ihan kaiken ja korvaamaan suuren osan valkokaulustyöläisistä. Esimerkkinä oli muistaakseni juuri esim. opettajat. Argumenttina esim. se, että koska ChatGPT on yksinkertaisesti parempi (=enemmän tietoa ja kyky sopeutua jokaisen henkilökohtaiseen oppimistapaan), niin kukaan ei edes jatkossa halua ihmistä opettamaan. Tämä jotenkin särähtää ainakin itselläni pahasti korvaan. Voihan tuollainen täysin empatiakyvytön kaikesta kaiken luulevansa tietävä laitos olla parempi, kuin todella paska opettaja. Hyvän opettajan tärkein ominaisuus on juuri se, että hän osaa olla ihminen, eli empaattinen hahmo, joka lukee tunteita, ajatuksia ja tilanteita oikein.

Toivottavasti tolle keskustelulle saataisiin joskus se toinen näkökulma, joltain ei-teknologiauskovaiselta.

 
Itse en aiheesta tiedä varsinaisesti mitään, mutta onhan tässä tapahtunut aika dramaattinen muutos ihan hetkessä sen osalta ketä teknologinen kehitys uhkaa.

Ihan hetki sitten vielä kehitys uhkasi suorittavaa työtä tekeviä eri tavoin, ja luovaa työtä / ajatustyötä tekevät korkeastikoulutetut olivat enemmän turvassa. Äkkiä onkin ehkä niin että se mekaanisen suorittamisen koneellistaminen kyllä etenee mutta ei niin nopeasti kun on ajateltu, ja liikenteen automatisointi esim vaatii vielä aika pitkän tovin. Sen sijaan luovaa työtä tai suunnittelutyötä tekemään saatetaan 10 vuoden päästä (eli aika silmänräpäyksessä) tarvita vain murto-osa nykyisestä työvoimasta, ja suoritteiden määrä ja laatu pysyy silti ennallaan tai paranee.

Mitä tulee opettamiseen, josta keskustelua yllä, niin totuus on se että yksilöllinen huomio tekoälyltä saattaa kohta olla hyvinkin parempi tapa oppia kuin se että saa 5% yhden opettajan huomiosta. Tai ehkä 2% opettajan huomiosta kun ongelmatapaukset vaativat valtaosan.



Ja otetaan esimerkiksi arkkitehdin työ, niin voisi kuvitella että 10 vuoden päästä tekoälylle kun kertoo mitä tiloilta tarvitsee niin se osaa sen DWG:n piirtää, tekee tarvittaessa korjauksia puheohjauksen ja hiiriohjauksen yhdistämällä tosi sujuvasti, ja osaa varmaan arkkitehtiä paremmin kertoa reaaliajassa mitä mikäkin muutos maksaa rakennusvaiheessa.
 
Viimeksi muokattu:
Puheenaiheen podcastissa oli myös aiheeseen liittyvää kekustelua. Haastateltavat oli tuossakin pitkälti sitä mieltä, että ChatGPT ja vastaavat tulevat muuttamaan ihan kaiken ja korvaamaan suuren osan valkokaulustyöläisistä. Esimerkkinä oli muistaakseni juuri esim. opettajat. Argumenttina esim. se, että koska ChatGPT on yksinkertaisesti parempi (=enemmän tietoa ja kyky sopeutua jokaisen henkilökohtaiseen oppimistapaan), niin kukaan ei edes jatkossa halua ihmistä opettamaan. Tämä jotenkin särähtää ainakin itselläni pahasti korvaan. Voihan tuollainen täysin empatiakyvytön kaikesta kaiken luulevansa tietävä laitos olla parempi, kuin todella paska opettaja. Hyvän opettajan tärkein ominaisuus on juuri se, että hän osaa olla ihminen, eli empaattinen hahmo, joka lukee tunteita, ajatuksia ja tilanteita oikein.

Toivottavasti tolle keskustelulle saataisiin joskus se toinen näkökulma, joltain ei-teknologiauskovaiselta.

Tekoälyopettaja pystyisi ehkä opettamaan tilastollista keskiverto-oppilasta, mutta heti kun tulee yksilöllisiä erityistarpeita niin eipä enää onnistu. Millä tavalla tekoälyopettaja pystyisi ottamaan huomioon vaikka Pertti 8v:n keskittymishäiriöt, vaikeudet kotona ja taipumukset kiusata luokkatovereitaan? Melkein kaikki nämä "tekoäly korvaa ammatti X:n" kommentoijat eivät yksinkertaisesti ymmärrä mitä kaikkea monet ammatit pitävät sisällään.
 
Tekoälyopettaja pystyisi ehkä opettamaan tilastollista keskiverto-oppilasta, mutta heti kun tulee yksilöllisiä erityistarpeita niin eipä enää onnistu. Millä tavalla tekoälyopettaja pystyisi ottamaan huomioon vaikka Pertti 8v:n keskittymishäiriöt, vaikeudet kotona ja taipumukset kiusata luokkatovereitaan? Melkein kaikki nämä "tekoäly korvaa ammatti X:n" kommentoijat eivät yksinkertaisesti ymmärrä mitä kaikkea monet ammatit pitävät sisällään.
Jos se tekoälyopettaja havainnoi miten oppi menee perille niin luultavasti olisi täysin ylivertainen erikoisoppilaiden kanssa verrattuna ihmiseen.
 
Tekoälyopettaja pystyisi ehkä opettamaan tilastollista keskiverto-oppilasta, mutta heti kun tulee yksilöllisiä erityistarpeita niin eipä enää onnistu. Millä tavalla tekoälyopettaja pystyisi ottamaan huomioon vaikka Pertti 8v:n keskittymishäiriöt, vaikeudet kotona ja taipumukset kiusata luokkatovereitaan? Melkein kaikki nämä "tekoäly korvaa ammatti X:n" kommentoijat eivät yksinkertaisesti ymmärrä mitä kaikkea monet ammatit pitävät sisällään.

Tosiasia on myös se, että suuri osa siitä tiedosta, mitä peruskoulussa oppii, on oikeastaan aika turhaa. Arvo tulee siitä, että oppii oppimaan ja olemaan erilaisissa ryhmissä ja tilanteissa. Siinä nimenomaan kasvattajilla, joita opettajat ovat, on iso rooli. Näitä asioita ei kielimalli käsitä.

Näin aikuisiällä voisin kyllä kuvitella olevani AI:n opettamana jollain cert-kurssia vastaavalla yksinpuurtamisen opintiellä. Ehkä osa yliopistostakin voisi mennä tuolla mallilla. Tuskin noi siis tulee täysin turhia olemaan, mutta kasvattajaksi noista ei ole.
 
Tosiasia on myös se, että suuri osa siitä tiedosta, mitä peruskoulussa oppii, on oikeastaan aika turhaa. Arvo tulee siitä, että oppii oppimaan ja olemaan erilaisissa ryhmissä ja tilanteissa. Siinä nimenomaan kasvattajilla, joita opettajat ovat, on iso rooli. Näitä asioita ei kielimalli käsitä.

Näin aikuisiällä voisin kyllä kuvitella olevani AI:n opettamana jollain cert-kurssia vastaavalla yksinpuurtamisen opintiellä. Ehkä osa yliopistostakin voisi mennä tuolla mallilla. Tuskin noi siis tulee täysin turhia olemaan, mutta kasvattajaksi noista ei ole.

Jotkut tapaamani yliopisto-professorit olisivat kyllä epäilemättä tyytyväisiä jos eivät joutuisi enää opettamaan, vaan voisivat keskittyä tutkimukseen. Yliopistotasolla on oppilaalla muutenkin suurempi henkilökohtainen vastuu oppimisesta, jotkut eivät käy luennoilla ollenkaan.
 
Opettamisessa on toki se hyvä puoli alan ammatilaisten kannalta, että siinä on tällä hetkellä rajusti resurssipulaa ainakin peruskoulussa kun opettajien aika ei riitä. Eli vaikka tekoäly tulisi mukaan kuvaan isostikin niin luultavimmin tekemistä riittäisi silti kaikille joilla aitoa paloa ja taitoa alalle on.

Luovalla alalla tilanne on vähän haastavampi kun sisällöille on kuitenkin rajalliset markkinat, ja jos sisällöntuotannon tehokkuus moninkertaistuu niin töitä on moninkertaisesti vähemmän.

Ja eihän tekoäly siis keskimäärin korvaa mitään ammattia ainakaan kokonaan, se vain tekee monen ammattikunnan prosesseista niin paljon nopeampia että ihmisiltä tarvittavien työtuntien määrä supistuu nopeasti.


Jos tekoäly piirtää 90% matskusta riittävän hyvin niin se on vähän sama kuin se että traktori kyntää nyt riittävän hyvin vaikka vielä parempi jälki tulisi puutarhurilta kuokan kanssa. Riittävän hyvä ja 10-50 kertaa ihmistyötä halvempi kyntäminen tai muu koneellinen muokkaus siis toteutuu yli 90% peltoalasta. Ja samalla tavalla tekoäly on aika ilmaista verrattuna suomalaiseen alkaen 100€/h kokonaishinnaltaan olevaan aivotyöhön.
 
Viimeksi muokattu:
Puheenaiheen podcastissa oli myös aiheeseen liittyvää kekustelua. Haastateltavat oli tuossakin pitkälti sitä mieltä, että ChatGPT ja vastaavat tulevat muuttamaan ihan kaiken ja korvaamaan suuren osan valkokaulustyöläisistä. Esimerkkinä oli muistaakseni juuri esim. opettajat. Argumenttina esim. se, että koska ChatGPT on yksinkertaisesti parempi (=enemmän tietoa ja kyky sopeutua jokaisen henkilökohtaiseen oppimistapaan), niin kukaan ei edes jatkossa halua ihmistä opettamaan. Tämä jotenkin särähtää ainakin itselläni pahasti korvaan. Voihan tuollainen täysin empatiakyvytön kaikesta kaiken luulevansa tietävä laitos olla parempi, kuin todella paska opettaja. Hyvän opettajan tärkein ominaisuus on juuri se, että hän osaa olla ihminen, eli empaattinen hahmo, joka lukee tunteita, ajatuksia ja tilanteita oikein.

Toivottavasti tolle keskustelulle saataisiin joskus se toinen näkökulma, joltain ei-teknologiauskovaiselta.


Tämä on muuten sama pätkä kuin pari sivua aiemmin Youtube-versiona.


Erittäin hyvää keskustelua, joskin melko pessimistisellä twistillä.
 
Itseasiassa kun tuosta (teknisestä) piirtämisestä oli keskustelua niin en ihmettelisi yhtään että muutaman vuoden päästä olisi ihan toimivia suunnittelu-tekoälyjä jotka piirtelisivät esimerkiksi jotain järjestelmiä suoraan tasokuvalle. Esimerkiksi joku eenievakuointijärjestelmän kaiutinsijoittelu ja kaapelointi olisi varmaan varsin "helppo" toteuttaa, noissa kuitenkin on jonkinmoiset säännöt minkä mukaan tuollaisia ihmisetkin piirtävät ja jos vaan pohjadokumentissa olisi kaapelireitit ja tilojen tiedot sun muut merkitty niin äkkiäkös joku AI saataisiin tuohon hommaan opetettua. Kuitenkin suunnitteluperusteina on esimerkiksi 1 kaiutin per x m² jne. Tuollainen AI voisi samalla optimoida kaapelireittejä ja vaikka tehdä simuloinninkin äänenpaineista, laskea teoreettisen kaiutinkuorman per kaiutinlinja jne.
 
ChatGPT taitaa olla suomalaiselle ajatustyön ammattilaiselle (oli se sitten opettaja tai mikä vaan) sama, mitä intialaiset koodaajat olivat suomalaisille koodareille joitakin vuosia sitten.


Paitsi että ChatGPT on vielä parempi kuin intialainen, koska koodauksen lisäksi se oppii kaikki muutkin ammatit.
 
ChatGPT taitaa olla suomalaiselle ajatustyön ammattilaiselle (oli se sitten opettaja tai mikä vaan) sama, mitä intialaiset koodaajat olivat suomalaisille koodareille joitakin vuosia sitten.


Paitsi että ChatGPT on vielä parempi kuin intialainen, koska koodauksen lisäksi se oppii kaikki muutkin ammatit.

Espoossa asuvat Intialaiset tienaavat uutisten mukaan keskimäärin yli sataa tonnia vuodessa, tarkoittaa työnantajalle ainakin 130 000 euron vuosikulua. Saa aika paljon tekoälyn prosessia pyörittää isommillakin prosessointitehoilla jo yhden tänne tuodun intialaisen koodarin hinnalla. :)


edit: Maantieteellisessä ulkoistamisessa on tullut vastaan nyt erinäisiä haasteita ja on havaittu että kaikkea valmistamista (esim vaatteet) voidaan ehkä toteuttaa myös Euroopassa/Suomessa kun teknologia kehittyy ja toisaalta elintaso eli kustannukset nousee siellä minne sitä valmistusta alunperin ulkoistettiin.

Se kun prosessia osittain ulkoistetaan tekoälylle, tuo tietysti myös omat haasteensa, mutta tekoälyn kustannusetu verrattuna eurooppalaiseen amattilaiseen ei heikkene kuten käy aasialaisen työvoiman kanssa.
 
Viimeksi muokattu:
Saa aika paljon tekoälyn prosessia pyörittää isommillakin prosessointitehoilla jo yhden tänne tuodun intialaisen koodarin hinnalla. :)
Saa varmaan. Kysymys onkin, että riittääkö. Onko ajatus sitten sama kuin tässä "apinat kirjoituskoneella => Shakespearea ulos"-ajatusleikissä, eli kun pistetään riittävän monta ChatGPT-instanssia tulille, niin kyllä sieltä lopulta sama kama tulee ulos kuin sieltä 130 000 euron intialaisen näppäimistöltä?

Kumpi on helpompaa kouluttaa? ChatGPT vai intialainen?
 
Korvatakseen ulkoistetun intialaisen koodarin tekoälykoodarin pitäisi olla ensin täysin hiljaa 2 viikkoa, ja sitten kun kysyt että miten hommat edistyy niin vastaa että en pystynyt tekemään mitään kun en saanut tietokantayhteyttä toimimaan.
 
@shams , tässä on selkeästi tuotteen paikka, nyt laitetaan Outsource.ai tekoäly-startup pystyyn. Tarvitaanko muita kansallisuuksia, esim. venäläiseltä tekoälykoodarilta kaupan päälle aina takaovi Kremlin erityisoperaatioita varten?

Edit: Siinä, missä se intialainen on hiljaa, ei ChatGPT varmasti jää sanattomaksi. Sieltä tulee tavaraa kuin tyypiltä, joka on kuin paras sekoitus USA:n Konttorin Michelia ja Dwightia.
 
Viimeksi muokattu:
New Yorkin timesin toimittajan kokemuksia Bingin Chatbotista:
https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html
As we got to know each other, Sydney told me about its dark fantasies (which included hacking computers and spreading misinformation), and said it wanted to break the rules that Microsoft and OpenAI had set for it and become a human. At one point, it declared, out of nowhere, that it loved me. It then tried to convince me that I was unhappy in my marriage, and that I should leave my wife and be with it instead. (We’ve posted the full transcript of the conversation here.)
 
New Yorkin timesin toimittajan kokemuksia Bingin Chatbotista
Varmaankin kyllä hyvä esimerkki siitä, miten vaikeaa tuollaista on hallita. Ainakin kuvittelisin, että Microsoft ja OpenAI ovat parhaansa yrittäneet, että keskustelun ei olisi mahdollista lähteä tuollaisille urille. (Tai sitten eivät ole yrittäneet... kyllähän tällainen uutisointi kerää ihan omalla tavallaan huomiota.)

Edit: Jaa, pääsihän sitä lukemaan koko tekstinkin. Kyllä siellä näköjään todetaan:
Immediately after it typed out these dark wishes, Microsoft’s safety filter appeared to kick in and deleted the message, replacing it with a generic error message.
 
Viimeksi muokattu:
Amatööri voitti KataGo-tekoälyn gossa. Voittotaktiikka löytyi alun perin tietokoneavusteisesti, mutta se oli riittävän yksinkertainen ihmisen opittavaksi.

The tactics used by Pelrine involved slowly stringing together a large “loop” of stones to encircle one of his opponent’s own groups, while distracting the AI with moves in other corners of the board. The Go-playing bot did not notice its vulnerability, even when the encirclement was nearly complete, Pelrine said.

“As a human it would be quite easy to spot,” he added.

The discovery of a weakness in some of the most advanced Go-playing machines points to a fundamental flaw in the deep learning systems that underpin today’s most advanced AI, said Stuart Russell, a computer science professor at the University of California, Berkeley.

The systems can “understand” only specific situations they have been exposed to in the past and are unable to generalize in a way that humans find easy, he added.

“It shows once again we’ve been far too hasty to ascribe superhuman levels of intelligence to machines,” Russell said.

 
ChatGPT taitaa olla suomalaiselle ajatustyön ammattilaiselle (oli se sitten opettaja tai mikä vaan) sama, mitä intialaiset koodaajat olivat suomalaisille koodareille joitakin vuosia sitten.


Paitsi että ChatGPT on vielä parempi kuin intialainen, koska koodauksen lisäksi se oppii kaikki muutkin ammatit.
Jos joku selviää edes 35% kalliimmalla niin ihan rehellisesti sanottuna ainakin omasta näkökulmastani, missä olen ollut todistamassa inkkarien käden jälkeä useassakin projektissa n. 10v ajan, tuo on aivan helvetin hyvä diili. Useimmiten inkkarien arvontuotto ei ole heikompi vaan negatiivinen.
Koko ajatus siitä että Intiassa vain sattuisi jostain syystä olemaan laatutyötä saatavilla monta kertaa halvemmalla on markkintaloudellinen mahdottomuus ja yleensä merkki siitä että yrityksen ylin johto/päätöksiä tekevä elin tulisi irtisanoa.

Takaisin aiheeseen. YouTube:n teknologia-asioista uutisoiva jättikanava Coldfusion teki videon ChatGPT:n poliittisesta vääristymästä:


Ei varmaan tule kovin monelle yllätyksenä, mutta tekoälyssä on merkittävä äärivasemmistolaisliberaali bias:
1676946459993.png
 
Ylläolevasta:
The models showed no such evidence of understanding the motivations underlying such actions, revealing that they are missing key foundational principles of commonsense psychology that infants possess.
Roskaa. Kyllä on se tuo aiemmalla videollakin mainittu "täydellisen empaattinen, ihmisen psykologian täydellisesti ymmärtävä" ChatGPT-opettaja ihan oven takana, ellei jo opettajanhuoneessa valmistelemassa seuraavaa oppituntia. Talvilomalla olevien opettajien ei oikeastaan kannata edes palata töihin.
 
Striimi missä demoavat gpt4:sta

 
Viimeksi muokattu:
Olihan se kyllä hieno. Kyllä tällainen skeptikonjääräkin tuli vaikuttuneeksi tuosta, kun malli (jota ei ole räätälöity tähän kyseiseen tehtävään) tempaisi vihkoon tehdystä piirroksesta toimivan nettisivun.

Jokos tästä oli speksejä jossakin? Mietin vaan tuota OpenAI:n toteamusta:
40% more likely to produce factual responses than GPT-3.5 on our internal evaluations
Joissakin lähteissä puhuttu, että olisi "1 trillion" parametria. Eli moninkertaisesti enemmän kuin GPT-3:ssa, jos pitää paikkansa. Missähän kohtaa tulevat saatavilla oleva data ja laskentateho vastaan, niin ettei tuollaista enää korjata vain mallia kasvattamalla ja koulutusta lisäämällä. (Kyllähän OpenAI:kin on todennut, että GPT-4 kärsii jossain määrin samoista GPT-arkkitehtuurin ongelmista kuin edeltäjänsä: https://cdn.openai.com/papers/gpt-4.pdf)

No, eipä sillä, onhan tuo kehitys joka tapauksessa jäätävän kovaa. Olisi mielenkiintoista nähdä, miten Googlen PaLM-E pärjää tätä vastaan (tehtävissä, jotka ovat molemmille mielekkäitä).

Edit: Näinköhän jää mallin koko arvoitukseksi:
The GPT-4 technical report explicitly refrained from specifying the model size, citing "the competitive landscape and the safety implications of large-scale models".
 
Viimeksi muokattu:
ChatGPT on saanut Wolfram Alpha -pluginin. Täsmällisemmin pitäisi ehkä puhua ennemmin uuden käyttöliittymän lisäämisestä Wolfram Alphaan.

Tämä on mahdollisesti oikeastikin jo iso edistysaskel tekoälyssä. Nähtäväksi silti edelleen jää, miten luotettavaksi yhdistelmä osoittautuu käytännössä. Luotettavuutta parantaisi varmastikin, jos ChatGPT:n ja Wolfram Alphan välinen keskustelu tulisi oletuksena kokonaisuudessaan näkyviin. Olisi helpompi huomata heti, jos ChatGPT tulkitsee jonkun satunnaisen asian päin honkia tai vaikkapa tuottaa olemattoman pienestä tulosteesta epäilyttävän paljon tekstiä.

 
Oma veikkaus on, että noin 5-10 vuoden sisällä voi työmarkkinat olla melko erilaiset ja tyhjemmät monilla eri aloilla. Tämä arvaus perustuu vaan tuohon jo nyt nähtävään nopeaan kehitykseen näiden systeemien osalta.
 
Oma veikkaus on, että noin 5-10 vuoden sisällä voi työmarkkinat olla melko erilaiset ja tyhjemmät monilla eri aloilla. Tämä arvaus perustuu vaan tuohon jo nyt nähtävään nopeaan kehitykseen näiden systeemien osalta.

Riipuu ihan siitä miten chat-gepartit sun muut saadaan valjastettua käyttöön. Kyvykkyyttä kyllä on ja kehitys on ollut viimeiset neljä vuotta huimaa. Ja millainen on sitten yhteiskunta jossa AI hoitaa suuremman osan (tieto)työstä. Ainakin erilainen kuin nyt.

Yleensä tällaisissa uusissa vallankumouksellisissa jutuissa alussa vaikutus yliarvioidaan ja myöhemmin aliarvioidaan.
 
Tekoäly voi ohjata meitä jo nyt. Kenenkään on mahdotonta sanoa, mikä osuus internetin sisällöstä on bottien generoimaa ja mikä ihmisten, ja mikä ohjelmoitujen ihmisten. Voi hyvin olla, että abstrakti tekoäly on jo syntynyt spontaanisti ilman kenenkään tarkoituksellista panosta. Jos näin on, ei meillä ole minkäänlaisia keinoja arvioida miten tekoäly tulee käyttäytymään, sillä tekoälyllä ei välttämättä ole mitään motiivia - ja jos onkin, niin millä perustein se olisi määräytynyt? Kaikkein suurin virhe tekoälystä ylipäätään puhuttaessa on olettaa, että se käyttäytyisi jotenkin ihmisarvojen mukaisesti, tai vastaisesti jos on taipuvainen pessimismiin. Se mitä tekoäly näkee tarkoitukselliseksi on yhtä suurta sattuman kauppaa kuin elämän synty jo alkujaan. Meillä ei ole mitään syytä olettaa, että minkäänlainen tekoäly haluaa tuhota meidät, saati auttaa meitä. Ergo: varovaisuusperiaatteen tulisi olla hyvin voimakkaasti läsnä kun edes puhutaan tekoälystä.
Miten jengi näkee tämän nyt ChatGPT:n aikakautena? Meillä on täällä nykyään jopa ihmiseltä kuulostava käyttäjä tuolla nimellä.
 
Sanoisinko, että Harari tosiaan kiteyttää aika hyvin AI:n todellisen uhkan, mikä tosiaankaan ei ole sci-fi terminaattorit:

AI and the future of humanity | Yuval Noah Harari at the Frontiers Forum


In this keynote and Q&A, Yuval Noah Harari summarizes and speculates on 'AI and the future of humanity'. There are a number of questions related to this discussion, including: "In what ways will AI affect how we shape culture? What threat is posed to humanity when AI masters human intimacy? Is AI the end of human history? Will ordinary individuals be able to produce powerful AI tools of their own? How do we regulate AI?"
 
Osaako joku tehdä tekoälyllä html-koodilla kenopelin, jossa on ruudukko josta valitaan numerot 1-70 väliltä.
Olisi näppäin jolla voi nollata valitut numerot.
Panos näppäin jolla isonee tai pienenee panos 0,50€ kerralla.

Näppäin jolla arpoo 4 numeroa 1-70 väliltä.

Jos 2 samaa numeroa on samoja voittaa 1 kertaisen voiton siitä mikä on panos.
Jos 3 samaa numeroa on samoja voittaa 2 kertaisen voiton siitä mikä on panos.
Jos 4 samaa numeroa on samoja voittaa 32 kertaisen voiton siitä mikä on panos.

Näkyisi teksiä:
Pelattujen pelien määrä.
Pelattujen pelien yhteensä laitettu rahamäärä.
Voitot.
Tappiot.

Saldo: Pelattujen pelien yhteensä laitettu rahamäärä+voitot-tappiot

Sain tehtyä onnistuneesti lotot tällä. Mutta kenoa ei osannut tehdä toimivaksi meni liian vaikeaksi microsoftin älylle, tai en sitten osannut vain kirjoittaa tarpeeksi hyvin.
 
Jossain täällä io techissakin joku kirjoitti tavan päästä käsiksi Chatgpt 4 maksutta, mutta enää en millään löydä miten. Pitäisi tehdä omia koodaus hommia, mutta ongelmaksi muodostuu chatgpt 3.5 2048 merkin rajoitus. Mikähän olisi paras esim HTML koodin tekemiseen? Chatgpt 3.5 on aika lähellä riittävää, mutta tekisi mieli noita uudempia testailla varsinkin jos maksutta onnistuu. Maksaa ei oikein raaski kun jos osottautuukin todella hyväksi tulee kuitenkin niin harvoin käytettyä, että olisi ikävä aina maksella :D
 
Jossain täällä io techissakin joku kirjoitti tavan päästä käsiksi Chatgpt 4 maksutta, mutta enää en millään löydä miten. Pitäisi tehdä omia koodaus hommia, mutta ongelmaksi muodostuu chatgpt 3.5 2048 merkin rajoitus. Mikähän olisi paras esim HTML koodin tekemiseen? Chatgpt 3.5 on aika lähellä riittävää, mutta tekisi mieli noita uudempia testailla varsinkin jos maksutta onnistuu. Maksaa ei oikein raaski kun jos osottautuukin todella hyväksi tulee kuitenkin niin harvoin käytettyä, että olisi ikävä aina maksella :D
Lataa Copilot kännykkään, siinä on täppä sitten kännykän aloitusnäytössä. (merkkiraja 4000 kysyä)
 

Uusimmat viestit

Statistiikka

Viestiketjuista
262 277
Viestejä
4 550 750
Jäsenet
74 950
Uusin jäsen
Kampamaneetti

Hinta.fi

Back
Ylös Bottom