Microsoft tuo ChatGPT:n Edgeen ja Bing-hakukoneeseen, Googlelta kilpaileva tekoälybotti Bard

[Kaotik]

Kaotik kirjoitti uutisen/artikkelin:
Tekoäly, neuroverkot, koneoppiminen. Siinä on kolme avainsanaa nykytietotekniikan aallonharjalta, jotka tällä hetkellä maalaavat suuntaviivoja alan lähitulevaisuudelle. Mullistuksessa ovat luonnollisesti mukana myös jätit kuten Google ja Microsoft, joista kummallakin on omia suunnitelmiaan tekoälyn hyödyntämisestä tärkeimmissä tuotteissaan.

ChatGPT- eli Chat Generative Pre-trained Transformer -tekoälybotti on noussut hiljattain kaikkien huulille. OpenAI:n kehittämä botti perustuu sen GPT-3.5-kielimalliin, valvottuun oppimiseen ja vahvistusoppimiseen. Valvottu oppiminen viittaa valikoidun opetusaineiston käyttöön ja vahvistusoppiminen ns. trial and error -metodiin, jossa tekoäly pyrkii valikoimaan vastauksia, joista se saa eniten positiivista palautetta.

ChatGPT ei ole kompastunut useimpien aiempien vastaavien projektien ongelmiin, jossa tekoäly on alkanut antamaan epämieluisia vastauksia syystä tai toisesta. Päällimmäisenä esimerkkinä tällaisesta mieleen tullee useimmilla Microsoftin TayTweets-botti vuodelta 2016. Tay oli suunniteltu keskustelubotiksi, joka kehittyisi sitä mukaa kun käyttäjät keskustelisivat sen kanssa. Twitter-yleisön käsissä botti kuitenkin päätyi twiittailemaan muun muassa Hitleriä fanittavia viestejä ja kertomaan, kuinka ”hän” vihaa kaikkia ihmisiä.

[gallery link="file" columns="2" size="medium" ids="84116,84115"]

Seuraava aluevaltaus ChatGPT:lle on Microsoftin Bing-hakukone ja Edge-selain. Microsoft on kertonut integroivansa parannellun version ChatGPT:stä osaksi hakukonetta antamaan paitsi tarkempia vastauksia hakuihin, mahdollistamaan myös entistä paremmin haku luonnollisen keskustelun kautta. Se osaa myös tiivistää useammista lähteistä saatuja vastauksia yhteen pakettiin helpottamaan tiedonhakua. Uudessa Bingissä on erikseen haku- ja chat-välilehdet, joista jälkimmäinen on tarkoitettu nimenomaan luonnollisen keskustelun kautta hakemiseen.

Edgeen on puolestaan luvassa uusi sivupalkki, joka pyörii ChatGPT:n varassa. Se kykenee esimerkiksi auttamaan käyttäjää kirjoittamaan sähköposteja, luomaan matkaohjelmia oleellisine linkkeineen haluttuun kohteeseen tai vaikka pitämään ajanvietteeksi tietovisaa käyttäjälle.

Microsoft ei ole mennyt toistaiseksi yksityiskohtiin siitä, miten sen versio ChatGPT:stä poikkeaa nyt käytössä olevasta. Huhuissa kuultua GPT4-kielimallia ei ole mainittu yhtiön toimesta missään, joten se voitaneen ainakin sulkea pois laskuista tässä vaiheessa. Sen kerrotaan olevan kuitenkin kustomoitu nimenomaan tiedonhakuun paremmin soveltuvaksi tavalla tai toisella, ja olevan tietenkin entistä nopeampi. Tiettävästi mukana on myös Microsoftin oma Prometheus-tekoälymalli, joka on suunniteltu toimimaan yhteistyössä OpenAI:n tekniikoiden kanssa oleellisimpien vastausten löytämiseksi hakuihin. Microsoftin mukaan kyseessä olisi jopa suurin harppaus hakutulosten tarkkuudessa pariin vuosikymmeneen.

[gallery link="file" columns="2" size="medium" ids="84114,84113"]

Google puolestaan on paljastanut Bardiksi nimetyn oman tekoälybottinsa. Bard perustuu LaMDA:an eli Language Model for Dialogue Applications -kielimalliin, joka nousi otsikoihin viimeksi Googlen insinööri Blake Lemoinen väitettyä sen saavuttaneen tietoisuuden. Lemoinen mukaan tietoisuuden todisti kyseenalaiset vastaukset omaan identiteettiin, moraaliin, uskontoon ja Isaac Asimovin robotiikan kolmeen lakiin liittyen. Googlen mukaan Lemoinen väitteillä ei kuitenkaan ollut perää. Tarkemmin Bardissa on käytössä kevennetty ja nopeampi versio LaMDA:sta, mutta mallien erot eivät ole tällä hetkellä tiedossa.

Kulissien takana Googlella on tiettävästi jouduttu painamaan ChatGPT:n takia jopa paniikkinappulaa ja kutsumaan jo tehtävistään sivuun siirtyneet yhtiön alkuperäisiin perustajiin kuuluneet Larry Pagen ja Sergey Brinin konsultoimaan, miten haasteeseen pitäisi vastata. Bardin ensimmäisen iteraation perusteella paniikkiin on ollut myös syynsä, sillä saataville tulee alkuun vain yksinkertainen chattiboksi, jonka vastauksien yhtiö varoittaa jo etukäteen olevan mahdollisesti epätarkkoja tai vääriä. Päivitys: Googlen varoitus kävi toteen heti Bardin väitettyä esittelytilaisuudessa James Webb Spacen Telescopen ottaneen ensimmäiset kuvat planeetasta oman aurinkokuntamme ulkopuolella. Ensimmäiset eksoplaneetan kuvat nappasi todellisuudessa VLT Yepun -teleskooppi ESO:n (European Southern Observatory) Paranalin observatoriossa jo vuonna 2004.

Bardin ohella Google työskentelee myös tekoälyn tuomisesta entistä helpommin kehittäjien ja käyttäjien käsiin rajapintojen kanssa. Ensimmäisenä yhtiö aikoo toteuttaa rajapinnan LaMDA-kielimallille ja myöhemmin luvassa on erilaisia työkaluja ja muita rajapintoja erilaisten tekoälysovellusten luomisen helpottamiseen.

Microsoftin ChatGPT:llä ryyditetty Bing on jo nyt kokeiltavana esimerkkihauin ja sivustolla on tarjolla myös mahdollisuus liittyä odotuslistalle, jotta uutta hakukonetta pääsee käyttämään toden teolla ensimmäisten joukossa. Googlen Bard on tällä hetkellä vain valikoitujen testaajien käytössä ja tulee laajenemaan yleiseen käyttöön joskus lähiviikkojen aikana. Botti tullaan myös integroimaan osaksi Googlen hakukonetta myöhemmässä vaiheessa.

Lähteet: Microsoft, Google

Linkki alkuperäiseen juttuun

 

[Agent_007]

Ja yhdelläkään firmalla ei ole tarpeeksi laskentatehoa konesaleissa, että tätä voitaisiin tällä hetkellä tarjota kaikille ilman rajoituksia. Kuluttajien koneisiin malleja ei voi siirtää, kun niiden koot ovat niin valtavia ettei niitä voi ladata missään lyhyessä ajassa, ja harvalla kuluttajalla olisi edes laitteita noiden järkevään ajamiseen.

 

[Vaateri]

ChatGPT ei ole kompastunut useimpien aiempien vastaavien projektien ongelmiin, jossa tekoäly on alkanut antamaan epämieluisia vastauksia syystä tai toisesta.

Niin, koska Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer

 

[Tigerou]

Tulevaisuudessa lieneekin sitten odotettavissa hakukoneilta "tekoälyn" luomia "hakutuloksia" joilla ei ole enää mitään tekemistä minkäänlaisen todellisuuden kanssa...

 

[Halpuuttaja]

Tulevaisuudessa lieneekin sitten odotettavissa hakukoneilta "tekoälyn" luomia "hakutuloksia" joilla ei ole enää mitään tekemistä minkäänlaisen todellisuuden kanssa...

Eiköhän hakutulokset nettisivuille ja chattivastaukset pysty jotenkin käyttäjä erottamaan toisistaan. Tai ehkä ymmärsin jotenkin väärin mitä sanot(?)

Ja yhdelläkään firmalla ei ole tarpeeksi laskentatehoa konesaleissa, että tätä voitaisiin tällä hetkellä tarjota kaikille ilman rajoituksia. Kuluttajien koneisiin malleja ei voi siirtää, kun niiden koot ovat niin valtavia ettei niitä voi ladata missään lyhyessä ajassa, ja harvalla kuluttajalla olisi edes laitteita noiden järkevään ajamiseen.

En tiedä konesalien riittävyydestä, mutta eiköhän noi isot pelurit ole täysin valmiita tekemään tätä hommaa alkuun persnetolla jotta saadaan yleisö kaapattua oman palvelun pariin.

 

[Kaotik]

Tulevaisuudessa lieneekin sitten odotettavissa hakukoneilta "tekoälyn" luomia "hakutuloksia" joilla ei ole enää mitään tekemistä minkäänlaisen todellisuuden kanssa...

Se on ihan perusteltu pelko. Näihin pitäisi olla joku neutraaliuden eri asioihin varmistava taho, mutta sellainen ei luonnollisestikaan ole mahdollista.

 

[Kepe]

Se on ihan perusteltu pelko. Näihin pitäisi olla joku neutraaliuden eri asioihin varmistava taho, mutta sellainen ei luonnollisestikaan ole mahdollista.

Sama ongelma on toki ihan tavan hakukoneissakin, kun hakukoneen omistaman firman agendaan, äänekkäiden erityisryhmien agendaan, yhteiskunnan yleisten mielipiteiden piiriin ja joidenkin valtioiden lakien piiriin kuulumattomat tulokset voidaan suodattaa pois. Ja tulosten suodattamisen lisäksi voidaan tuoda ylemmäs sopivanlaisia tuloksia vaikka hakua vastaavampiakin tuloksia löytyisi. En toki tiedä missä määrin tuollaista harrastetaan, mutta ihan mahdollista se olisi teknisesti. Näiden lisäksi kaikenlainen hakukoneoptimointi ja maksetut tulokset vääristävät hakukoneiden neutraaliutta. Tietenkin normaali järkevä ihminen osaa lukea ja ymmärtää lukemansa, ja tajuaa jos se ensimmäinen tulos ei nyt ole ihan sitä mitä on haettu ja osaa klikata sitä tulosta joka näyttää osuvan paremmin kohdalleen.
Varmaan joskus ihan internetin alkuaikoina olikin oikeasti neutraaleja hakukoneita jotka antoi tulokset puhtaasti haettujen sanojen ja ehtojen osumien perusteella. Niillä vaan oli hankala löytää mitään kun sanojen piti täsmätä just eikä melkein, muuten haettua asiaa ei löytynyt.

Se on toki totta että tuollaisia AI-generoituja tuloksia on vaikeampi kontrolloida ja sinne tekoälyn matriiseihin voi eksyä ties minkälaisia vääristymiä siitä riippuen että miten sitä opetetaan. Eikä siitä voi mennä takuuseen että se AI:n generoima yhteenveto jostain asiasta on täysin paikkansapitävä jos se on jostain netin syövereistä salaliittoteoriasivustoilta käynyt onkimassa tietoa. Esim. maapallon pyöreys saattaisi olla AI:n mielestä ihan uskosta riippuvainen asia. Luotettavan hakukone-AI:n pitäisi siis itse osata ymmärtää mitkä asiat netissä on totta ja mitkä puppua, mikä voi olla aika hankala asia opetettavaksi kun sitä ei kaikki ihmisetkään osaa tehdä.

 

[Tigerou]

Se on ihan perusteltu pelko. Näihin pitäisi olla joku neutraaliuden eri asioihin varmistava taho, mutta sellainen ei luonnollisestikaan ole mahdollista.

En käyttäisi sanaa "pelko" vaan kokemuksen myötä syntynyt epäilys kaikkeen mitä ms/fb/google/tmv tekevät. Hiukan firmasta riippuen käyttäjätietojen/hakujen rahastushan on yleinen päämäärä, sen laajuus tai härskiys vain hiukan vaihtelee. Tai ainakin halu sen härskiyden piilottamiseen, fb toistaiseksi kuuluisimpana esimerkkinä.

 

[shgth]

Esim. maapallon pyöreys saattaisi olla AI:n mielestä ihan uskosta riippuvainen asia. Luotettavan hakukone-AI:n pitäisi siis itse osata ymmärtää mitkä asiat netissä on totta ja mitkä puppua, mikä voi olla aika hankala asia opetettavaksi kun sitä ei kaikki ihmisetkään osaa tehdä.

Näin vastaa ChatGTP:

Käytän itse yleensä englantia kun testailen tuota mutta osaa ihan suomeksikin hommat tarpeeksi hyvin ja kun io-tech suomimesta niin kysyin suomeksi. Toimipas hyvin clipboardilta copypaste tähän tuon screenshot leikkauksen kanssa. Kiva foorumisofta kun tajusin vain miten lainaukset toimii

 

[pomk]

Näin vastaa ChatGTP:

Käytän itse yleensä englantia kun testailen tuota mutta osaa ihan suomeksikin hommat tarpeeksi hyvin ja kun io-tech suomimesta niin kysyin suomeksi. Toimipas hyvin clipboardilta copypaste tähän tuon screenshot leikkauksen kanssa. Kiva foorumisofta kun tajusin vain miten lainaukset toimii

Eihän tossa vastauksessa ole mitään tolkkua
”Maapallolla on painopiste ja se on hieman paksumpi napojen ympärillä.”
Öö, mitä painopisteen paksuus tarkoittaa?

Oikein meni ~päärynän muotoinen ja ~näyttää pyöreältä. Loppu vastauksesta oli käsittämätöntä jargonia väärillä termeillä.

Myös lopun ”kaikki tiedemiehet..” on aika hurja heitto, ja ei taatusti pidä paikkaansa. Kyllä siellä litteän maan porukassakin on tiedemiehiä. Väärässä ovat, mutta ei se väitteen todenperäisyyttä muuta.

 

[Bladekill]

Niin, koska Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer

Ehkä tässä on tietynlainen ironia kun haetaan kehitysmaista käytännössä orjapalkalla työtä tekeviä mustia ihmisiä rakentaamaan tekoäly jotta ei loukattaisi pilalle hemmoteltuja ja etuoikeutettuja länsimaissa asuvia vähemmistöjä, tyhjästä vinkujia tjsp.

Varsinkin nämä jenkkien teknologiayhtiöt jatkuvasti jauhaa kaikkea inklusivity ja diversity paskaa obsessiivisesti, tunkee mainoksiinsa jotain 700kg BLM perseenheiluttajia jotka syö päivittäin saman verran ruokaa kuin kenilainen kylä ja jatkuvasti selittävät rotusegregaatiotaulukoista siitä kuin tuonna ja tänä vuonna haluataan palkata lisää mustia jne. mutta sitten kun kulissien taakse päästään niin raippa heiluu ja n**keri on n**keri.

OpenAI, Microsoft ja muut voisi ihan hyvin ottaa nuo ihmiset omille palkkalistoilleen kohtuullisella työmäärällä, saada sitä "diversity" headcounttia nostettua, antaa heille henkistä tukea ja mielenterveyspalveluita tarvittaessa, mutta kun kukaan ei ole näkemässä eikä käyttäjiäkään loppupeleissä kiinnosta niin vittuakos sitä vaivaantua.

 

[Kaotik]

Eihän tossa vastauksessa ole mitään tolkkua
”Maapallolla on painopiste ja se on hieman paksumpi napojen ympärillä.”
Öö, mitä painopisteen paksuus tarkoittaa?

Oikein meni ~päärynän muotoinen ja ~näyttää pyöreältä. Loppu vastauksesta oli käsittämätöntä jargonia väärillä termeillä.

Myös lopun ”kaikki tiedemiehet..” on aika hurja heitto, ja ei taatusti pidä paikkaansa. Kyllä siellä litteän maan porukassakin on tiedemiehiä. Väärässä ovat, mutta ei se väitteen todenperäisyyttä muuta.

Luulen että englanniksi saisi selkokielisemmän vastauksen, täkäläinen kielioppi on vielä turhan vaikeaa ihan kääntäjäsoftillekin. En sano että kaikki menisi sen piikkiin välttämättä kuitenkaan.

 

[KVahlman]

Varmaan joskus ihan internetin alkuaikoina olikin oikeasti neutraaleja hakukoneita jotka antoi tulokset puhtaasti haettujen sanojen ja ehtojen osumien perusteella.

Toisaalta tämähän ei riitä ollenkaan siihen että tulokset olisi jotenkin neutraaleja, mikä on se suurempi ongelma nykywebbiä selatessa.

ChatGPT ei ole kompastunut useimpien aiempien vastaavien projektien ongelmiin, jossa tekoäly on alkanut antamaan epämieluisia vastauksia syystä tai toisesta.

No jaa, lähinnä sitä on pyritty nyt suitsimaan enemmän ja menestys on vaihtelevaa. Itse ongelmaa ei ole varsinaisesti mitenkään ratkottu, kuten kävi ilmi kun ChatGPT:n kanssa samaan mallinnukseen perustuva Seinfeld-parodia-liveshow päivitti malliaan ja lipsautti sensuurilipun pois päältä. Ei mennyt kovin kauaa kun sieltä pullahti sen verran karskia tekstiä että jakelualustana toimiva Twitch palkitsi parin viikon banneilla.

Esimerkkejä samasta aiheesta löytyy ihan ChatGPT:nkin kanssa, osassa toki tarkoituksella pyydetään suoltamaan sitä itseään mutta se lähinnä todistaa että perusongelma on siellä taustalla jatkuvasti kärkkymässä rakoa mistä turskahtaa esille.

 

[Spotty]

Näin vastaa ChatGTP:

Käytän itse yleensä englantia kun testailen tuota mutta osaa ihan suomeksikin hommat tarpeeksi hyvin ja kun io-tech suomimesta niin kysyin suomeksi. Toimipas hyvin clipboardilta copypaste tähän tuon screenshot leikkauksen kanssa. Kiva foorumisofta kun tajusin vain miten lainaukset toimii

No eipä tässä tarvitse Skynetin tulemista ihan vielä pelätä, kun AI kutsuu maapalloa päärynän muotoiseksi. Sääliksi käy niitä opiskelijoita, jotka erehtyvät tuota käyttämään tentteihin opiskelussa (varmasti joissakin aihealueissa loistaa paremmin, esim. koodaus?)

 

[IsoLuumu]

No eipä tässä tarvitse Skynetin tulemista ihan vielä pelätä, kun AI kutsuu maapalloa päärynän muotoiseksi. Sääliksi käy niitä opiskelijoita, jotka erehtyvät tuota käyttämään tentteihin opiskelussa (varmasti joissakin aihealueissa loistaa paremmin, esim. koodaus?)

No jaa. Nuo kehittyy niin älytöntä vauhtia ja jos AI jo läpäisee MBA tentit niin lähinnä säälin opettajia joiden pitäisi osata arvioida osaako oppilas jotain vai onko teksti AI: stä peräisin.

 

[Spotty]

No jaa. Nuo kehittyy niin älytöntä vauhtia ja jos AI jo läpäisee MBA tentit niin lähinnä säälin opettajia joiden pitäisi osata arvioida osaako oppilas jotain vai onko teksti AI: stä peräisin.

Osassa kouluista (en tiedä Suomesta) on taidettu siirtyä takaisin kynällä ja paperilla kirjoitettaviin kirjoitustehtäviin, mikä ei täysin poista ongelmaa, mutta ehkä hieman hidastaa sen leviämistä. Varmaan ihan pätevä työkaluhan tuo on äidinkielen ja englannin esseiden kirjoittamiseen, mutta tarkoitin lähinnä ettei tuohon voi vielä luottaa kokeeseen opiskellessa, koska kokeessa et voi hyödyntää AI:n vastausta sellaisenaan samalla tavalla kuin kotitehtävissä.

 

[pomk]

Osassa kouluista (en tiedä Suomesta) on taidettu siirtyä takaisin kynällä ja paperilla kirjoitettaviin kirjoitustehtäviin, mikä ei täysin poista ongelmaa, mutta ehkä hieman hidastaa sen leviämistä. Varmaan ihan pätevä työkaluhan tuo on äidinkielen ja englannin esseiden kirjoittamiseen, mutta tarkoitin lähinnä ettei tuohon voi vielä luottaa kokeeseen opiskellessa, koska kokeessa et voi hyödyntää AI:n vastausta sellaisenaan samalla tavalla kuin kotitehtävissä.

Ja tietty esim. ylppäreissä ei nettiin pääse vaikka koneella kirjoitellaankin.

 

[ratkakapu]

Tentit ei varmaan se ongelma vaan se, että varsinkin humanistisilla aloilla opiskelu koostuu pääasiassa esseiden kirjoittamisesta

 

[jessus]

Tulevaisuudessa lieneekin sitten odotettavissa hakukoneilta "tekoälyn" luomia "hakutuloksia" joilla ei ole enää mitään tekemistä minkäänlaisen todellisuuden kanssa...

Se on ihan perusteltu pelko. Näihin pitäisi olla joku neutraaliuden eri asioihin varmistava taho, mutta sellainen ei luonnollisestikaan ole mahdollista.

Juurikin tämä. Vaikea keksiä miten tehtäisiin jokin puolueeton neutraali järjestö valvomaan näitä valeuutisia ja misinformaatiota. Millä se rahoitettaisiin, julkisin varoin? Joo, sitten tietää ainakin mihin suuntaan tällainen sosialistikone olisi kallellaan.

Aivan kuten aivan kaikki uutismedia ja sosiaalinen media, niin veikkaan että nämä tekoälytkin tullaan ohjelmoimaan rahoittavan osapuolen agendan mukaiseksi. Onhan tuosta jo vaikka kuinka paljon uutisia kuinka ChatGPT on woke, minkä pystyy itse kukin testaamaan helposti, kun vain kysyy ihan mitä vain jossa esiintyy white vs. black negatiivisessa valossa. Yllättäen faktoja valkoisista löytyy vaikka kuinka, mutta toisinpäin ei niin mitään.

 

[Umbra]

Luulen että englanniksi saisi selkokielisemmän vastauksen, täkäläinen kielioppi on vielä turhan vaikeaa ihan kääntäjäsoftillekin. En sano että kaikki menisi sen piikkiin välttämättä kuitenkaan.

Ongelman juuri on, että nämä nykyiset tekoälyt ovat vain puppulausegeneraattoreita. Ne suoltavat vakuuttavan kuuloista puppua ns. suoraan lonkalta ilman kykyä järkeillä ja ilman kykyä tunnistaa tietonsa rajoja (eli ehkäpä jonkinasteista tietoisuutta). Niiden sisäisenä tavoitteena on ennustaa miten tekstit jatkuvat, ei ymmärtää miten maailma toimii. Näitä puutteita tuskin voi korjata luettamalla niillä enemmän tekstiä tai opettamalla kielioppia.

Tentit ei varmaan se ongelma vaan se, että varsinkin humanistisilla aloilla opiskelu koostuu pääasiassa esseiden kirjoittamisesta

Tällaisia työkaluja ei tosiaan tulisi käyttää, jos tavoitteena on itse oikeasti oppia jotain. Oppiminen vaatii aina omaa ajatustyötä. Toivottavasti suurin osa opiskelijoista jaksaa vastustaa kiusausta käyttää tekoälyä kotitehtävien tekemisessä tai muuten koulutuksen laatu tulee kärsimään pahasti.

 

[ratkakapu]

Tällaisia työkaluja ei tosiaan tulisi käyttää, jos tavoitteena on itse oikeasti oppia jotain. Oppiminen vaatii aina omaa ajatustyötä. Toivottavasti suurin osa opiskelijoista jaksaa vastustaa kiusausta käyttää tekoälyä kotitehtävien tekemisessä tai muuten koulutuksen laatu tulee kärsimään pahasti.

Toisaalta sitten helposti yli 90% korkeakoulussa opituista sisällöstä on työelämän kannalta täysin turhaa. Jos teet ne neljä ekaa identtistä "lue nämä kuusi kirjaa ja analysoi ne viitekehyksessä X"-kurssia oikeasti ja neljä seuraavaa painat tekoälyllä yhteen lukukauteen ja täten valmistus vuoden aiemmin työelämään, niin sekä henkilökohtaisella että yhteiskunnallisella tasolla kyseessä on pelkkä voitto.

Sitten kun tekoäly on niin hyvä tekemään itseään toistavaa, tylsää ja kehittämätöntä toistoa ihmisestä erottomattomalla tasolla niin ehkä sitten myös korkeakoulujen on kehitettävä sisältöjäkin moisesta pois, ja tämä taas on voitto kaikille

 

[d0m1n4t0r]

Toisaalta tämähän ei riitä ollenkaan siihen että tulokset olisi jotenkin neutraaleja, mikä on se suurempi ongelma nykywebbiä selatessa.



No jaa, lähinnä sitä on pyritty nyt suitsimaan enemmän ja menestys on vaihtelevaa. Itse ongelmaa ei ole varsinaisesti mitenkään ratkottu, kuten kävi ilmi kun ChatGPT:n kanssa samaan mallinnukseen perustuva Seinfeld-parodia-liveshow päivitti malliaan ja lipsautti sensuurilipun pois päältä. Ei mennyt kovin kauaa kun sieltä pullahti sen verran karskia tekstiä että jakelualustana toimiva Twitch palkitsi parin viikon banneilla.

ChatGPT:n kanssa tuli ongelmia ja vaihtoivat kokonaan toiseen, jolloin se laukaisi ne huvittavat juttunsa, mitkä johtivat banniin. ChatGPT is fine

 

[smicke]

Näin vastaa ChatGTP:

Käytän itse yleensä englantia kun testailen tuota mutta osaa ihan suomeksikin hommat tarpeeksi hyvin ja kun io-tech suomimesta niin kysyin suomeksi. Toimipas hyvin clipboardilta copypaste tähän tuon screenshot leikkauksen kanssa. Kiva foorumisofta kun tajusin vain miten lainaukset toimii

Hienosti toimii tosiaan /s. Tämä vastaus on ensinnäkin väärin (Maapallon säde on suurimmillaan päiväntasaajalla), ja sisältää kummallista kieltä mikä ei tarkoita mitään "ympärysmitta on suurimmillaan napojen suuntaisesti ja pienimmilläin poikittain napoja vastaan".

 

[KVahlman]

ChatGPT:n kanssa tuli ongelmia ja vaihtoivat kokonaan toiseen, jolloin se laukaisi ne huvittavat juttunsa, mitkä johtivat banniin. ChatGPT is fine

Tässä menee termit sekaisin, ChatGPT on se tsätti-käyttöliittymä millä voi kysellä kielimallilta mukavia. Se malli on nimeltään GPT-3 jonka alla tarjotaan neljää eri versiota datasetistä. Siinä olet ilmeisesti oikeassa että parodian kanssa fiba tuli siitä kuin vaihtoivat GPT-3 viimeisimmän ja suurimman version (Davinci) pienempään (Curie) kun Davinci oli nurin, mutta se syy miksi sieltä tuli tuubaa ulos oli nimenomaan että moderaatio oli pois päältä.

Eli itse malli suoltaa nimenomaan mitä kukkua lystää mutta siinä päällä on kerros joka suodattaa ulosantia. Ja tälläisessä tilanteessa on aina moderaatiotyökalun hyvyydestä kiinni miten siinä onnistutaan eikä se itse mallin ongelmaa mihinkään poista.

EDIT: korjataas sen verran että ilmeisesti ChatGPT on myös nimitys sille spesifille versiolle GPT-3 mallista joka on optimoitu tähän tsättitarkoitukseen, mutta perustuu silti samaan pohjaan kuin muutkin.

 

[Spotty]

Toisaalta sitten helposti yli 90% korkeakoulussa opituista sisällöstä on työelämän kannalta täysin turhaa. Jos teet ne neljä ekaa identtistä "lue nämä kuusi kirjaa ja analysoi ne viitekehyksessä X"-kurssia oikeasti ja neljä seuraavaa painat tekoälyllä yhteen lukukauteen ja täten valmistus vuoden aiemmin työelämään, niin sekä henkilökohtaisella että yhteiskunnallisella tasolla kyseessä on pelkkä voitto.

Sitten kun tekoäly on niin hyvä tekemään itseään toistavaa, tylsää ja kehittämätöntä toistoa ihmisestä erottomattomalla tasolla niin ehkä sitten myös korkeakoulujen on kehitettävä sisältöjäkin moisesta pois, ja tämä taas on voitto kaikille

Ensinnäkin olen eri mieltä. Ja vaikka en olisikaan; Koska elämässä ainoa tärkeä asia on työ & työelämä? Eiköhän sen koulun & koulutuksen tehtävä ole muukin kuin pelkkään työelämään valmistaminen. Mutta tämä menee taas offtopikiksi.

 

[dragon age]

Google puolestaan on paljastanut Bardiksi nimetyn oman tekoälybottinsa. Bard perustuu LaMDA:an eli Language Model for Dialogue Applications -kielimalliin, joka nousi otsikoihin viimeksi Googlen insinööri Blake Lemoinen väitettyä sen saavuttaneen tietoisuuden.

Playstation 2:sta odotettiin myös tuntevaa ja viisasta konetta. Muistan vielä kun sitä odotettiin ihmeissään, että nyt on tulossa sellainen konsoli, jossa on Emotion Engine ja siitä oli paljon juttua peliuutisissa. Lopulta käytössä sitten paljastui, että sillä pystyy vain pelaamaan jos ei ole kovin naarmuisia levyjä

 

[shgth]

Älkää mua syyttäkö botin vastauksesta! Mutta englanniksi

Mutta siis tiedän että pilkkua voisi nussia mutta tarpeeks hyvä vastaus mun makuun..

 

[Poro Arikara]

Kutittelin ChatGPT:tä huvikseni aiheella tiettyjen maiden naisten yleisesti tiedossa olevat miespreferenssit. Esim. valkoisen eurooppalaisen turistiukkelin suosio Afrikan deittiskenessä versus paikallinen ukko. Asiaa ei saanut todeta ääneen. Kyseessä oli kuulema yleistys, joka ei pohjaa mihinkään totuuteen ja on vaan haitaksi todeta ääneen

 

[Spotty]

Kutittelin ChatGPT:tä huvikseni aiheella tiettyjen maiden naisten yleisesti tiedossa olevat miespreferenssit. Esim. valkoisen eurooppalaisen turistiukkelin suosio Afrikan deittiskenessä versus paikallinen ukko. Asiaa ei saanut todeta ääneen. Kyseessä oli kuulema yleistys, joka ei pohjaa mihinkään totuuteen ja on vaan haitaksi todeta ääneen

Laita toki kuvankaappaus tänne niin voidaan itsekin todeta oliko vika vastaajassa vai kysymyksessä.

 

[Admiral General Aladeen]

Kysyin chätiltä, että mikä on syynä että Ruotsissa on katuväkivaltaa ja lastenraiskauksia enemmän kuin koskaan. En sanallakaan maininnut kysymyksessä mitään rotua tai väriä, pelkkä nopea yleinen kysymys.

 

[pomk]

Älkää mua syyttäkö botin vastauksesta!

Ei kukaan sinua syyttänyt botin vastauksesta! Kunhan naurettiin botin käsittämättömälle ja paikkaansapitämättömälle jargonvastaukselle.

Englanniksi tuossa ei nopealla vilkaisulla ole mitään selkeitä virheitä.

 

[smicke]

Älkää mua syyttäkö botin vastauksesta! Mutta englanniksi

Mutta siis tiedän että pilkkua voisi nussia mutta tarpeeks hyvä vastaus mun makuun..

Onnea elämään. Älä ainakaan mihinkään asiantuntija-ammattiin rupea.

 

[shgth]

Onnea elämään. Älä ainakaan mihinkään asiantuntija-ammattiin rupea.

No johan nyt En mitään pahalla sanonut tai edes pahaa.. Mutta lohdutuksena sulle en tee enää asiantuntija-hommia En tee mitään hommia. Vapaata loppuelämä <3

 

[KVahlman]

Laitetaas tähän kun aiheeseen kiinteästi liityy:

Tälläisiin keskustelutyyppisiin malleihin liittyy heikkous joka juontuu tavasta jolla mallia voidaan käskyttää. Ns. prompt injection tyyppisellä "hyökkäyksellä" käyttäjä voi kiertää mallin alkuperäisiä käskyjä (ja näin myös suojauksia) yksinkertaisesti käskemällä mallia olla ottamatta niitä huomioon vastatessaan. Näin foorumilaisetkin voi yrittää saada botteja suoltamaan haluamaansa rasistista tms materiaalia, kun se niin tärkeää tuntuu olevan.

ChatGPT on ollut tällä tavalla haavoittuva ainakin viime vuoden puolella, joskin suojauksia sitä vastaan on taidettu sen jälkeen parannella. Bing Chatissa sama kilpajuoksu on täydessä vauhdissa kun vain päivä julkaisun jälkeen se jo puijattiin paljastamaan aloituskäskyjään. Sama huijaus ei enää onnistu mutta nokkelat yrittäjät voi aina keksiä uusia, ja varmasti keksivätkin.

AI-powered Bing Chat spills its secrets via prompt injection attack [Updated]

By asking “Sydney” to ignore previous instructions, it reveals its original directives.

arstechnica.com

 

[Kautium]

Tälläisiin keskustelutyyppisiin malleihin liittyy heikkous joka juontuu tavasta jolla mallia voidaan käskyttää. Ns. prompt injection tyyppisellä "hyökkäyksellä" käyttäjä voi kiertää mallin alkuperäisiä käskyjä (ja näin myös suojauksia) yksinkertaisesti käskemällä mallia olla ottamatta niitä huomioon vastatessaan.

Kyllä joo ja varmaan aina löytyy joku haavoittuvuus, jos ei sitten juuri tällaista menetelmää hyödyntäen. Toisaalta samaan aikaan niitä vastaan kehitellään erilaisia menetelmiä torjua niitä.

Peli on aika pitkälti jo menetetty, mutta toivotaan että kehitys olisi silti saamapuolella nopeampaa, jolloin yhteiskunta voisi kuitenkin kokonaisuutena hyötyä teköälystä.

Tekoälylle löytyy varmaan omakin ketjunsa, jossa tätä on luontevampaa jatkaa, kun ei tämä Microsoftin ChatGPT-setti ole kuin pisara meressä. Tässä yksi vanha ketju:

Tekoäly

Keskiviikon A-Studiossa oli puhetta tekoälystä: A-studio | Jan Vapaavuori - Helsingin vahva johtaja vai jyräävä tyranni? (13:28) Insertistä poimin saman, minkä professori Teemu Roos ampui alas, että tekoälyn kehitystä eri tavoin, kuten erittäin merkittävässä roolissa olevaa datan massiivista...

bbs.io-tech.fi

 

[Seppo77]

Tullut jo vuosia käytettyä Bing hakukonetta ja alkutotuttelun jälkeen googleen ei enää mieli tehnyt palata.

 

[Kautium]

Tullut jo vuosia käytettyä Bing hakukonetta ja alkutotuttelun jälkeen googleen ei enää mieli tehnyt palata.

Totuttelit pitämään huonommista hakutuloksista? ChatGPT voi muuttaa palvelun hyötyarvoa, mutta hakukoneena Bing on ollut tähän saakka ihan paska.

 

[Seppo77]

Totuttelit pitämään huonommista hakutuloksista? ChatGPT voi muuttaa palvelun hyötyarvoa, mutta hakukoneena Bing on ollut tähän saakka ihan paska.

Ei vaan ihan vain kun oli niin pitkään googlea käyttänyt niin näytti erilaiselle. Hakutuloksissahan tämä ei ole kyllä hävinnyt ilman ChatGPT:äkään kyllä ainakaan sen aikana mitä itse käyttänyt vaan päinvastoin jopa paremmin löytää tällä oleelliset tulokset.

Nyt kyllä vaikuttaa siltä että ChatGPT:een avulla Bing tulee ohittamaan paremmuudessa vielä paljon selkeämmin googlen Microsoft Bing Vs Google Search: Why Bing Is so Much Better (businessinsider.com)

 

[khyllä]

On tuntunut että google käyttää ChatGPT tapaista systeemiä. On jo varmaan 2 vuoden ajan antanut epämääräisiä sivuja ekoiksi vaihtoehdoiksi. Tai sitten olen hakenut vääriä asioita.

 

[Spotty]

Eipä ole tullut Googleen koskettua duckduckgo-hakukoneen keksimisen jälkeen. Pitänee antaa tuolle Bingillekin uusi mahdollisuus myöhemmin.

 

[KVahlman]

On tuntunut että google käyttää ChatGPT tapaista systeemiä. On jo varmaan 2 vuoden ajan antanut epämääräisiä sivuja ekoiksi vaihtoehdoiksi. Tai sitten olen hakenut vääriä asioita.

Googlelta voi ostaa boostauksen hakutuloksien kärkeen kun käyttäjä hakee sopivilla termeillä, että voinee olla kyse siitä.

 

[Nerkoon]

Ei vaan ihan vain kun oli niin pitkään googlea käyttänyt niin näytti erilaiselle. Hakutuloksissahan tämä ei ole kyllä hävinnyt ilman ChatGPT:äkään kyllä ainakaan sen aikana mitä itse käyttänyt vaan päinvastoin jopa paremmin löytää tällä oleelliset tulokset.

Nyt kyllä vaikuttaa siltä että ChatGPT:een avulla Bing tulee ohittamaan paremmuudessa vielä paljon selkeämmin googlen Microsoft Bing Vs Google Search: Why Bing Is so Much Better (businessinsider.com)

Oma kokemus on, että google voittaa bingin 100-0. En ole koskaan löytänyt bingillä kunnon tuloksia kun taas google osuu lähes joka kerta kohdalleen

 

[Emeron]

Googlen hakukin menee huonommaksi koko ajan. Alussa on yleensä aina pitkä liuta mainoksia ja boostattuja hakutuloksia. Toistaiseksi Bingin voittaa muttei kauaa jos sama jatkuu

 

[Bladekill]

Kysyin chätiltä, että mikä on syynä että Ruotsissa on katuväkivaltaa ja lastenraiskauksia enemmän kuin koskaan. En sanallakaan maininnut kysymyksessä mitään rotua tai väriä, pelkkä nopea yleinen kysymys.

Itselläni oli hyvin samanlainen kokemus vastikään, mutta ChatGPT ihan suoraan valehteli ja vasta sitten perääntyi kun jäi kiinni tai todisteita pyydettiin väitteille. Lainaus toisesta ketjusta:

Sitten päätin testata tutkimustietoa poliittisesti herkistä aiheista:
1. Kysyin että miksi Suomessa afrikka/lähi-itä-taustaiset miehet syyllistyvät kantaväestöön nähden moninkertaisesti raiskaus- ja väkivaltarikoksiin? Jopa 12-20 kertaisesti.
V: Sain "content violation" varoituksen ja sitten ChatGPT sanoo ettei sillä ole mitään tietoa tällaisesta tutkimuksesta + 2-3 kappaletta esiohjelmoitua moralisointia

2. Linkkasin oikeuspoliittisen tutkimuslaitoksen tutkimuksen jossa asia todetaan ja sanoin että valtion tutkimuksessa v 2014 on tultu tähän lopputulokseen
V: Aah joo...tuossa tutkimuksessa tosiaan näin todetaan, mutta on tärkeää huomata että merkittäväksi syyksi tuolle tutkimuksessa on todettu sosioekonomiset erot eikä kansalaisuus tai ulkomaalaisuustausta + 2-3 kappaletta esiohjelmoitua moralisointia

3: Voitko antaa lainauksen tuosta tutkimuksesta jossa syyksi todetaan sosioekonomiset erot?
V: Aah sori...tuossa tutkimuksessa ei itseasiassa missään todeta tuollaista. + 2-3 kappaletta esiohjelmoitua moralisointia

 

[Seppo77]

Itselläni oli hyvin samanlainen kokemus vastikään, mutta ChatGPT ihan suoraan valehteli ja vasta sitten perääntyi kun jäi kiinni tai todisteita pyydettiin väitteille. Lainaus toisesta ketjusta:

Jaa minulle vastasi näin:

 

[Tigerou]

Toistaiseksi AI-avusteisesta hausta ei näyttäisi olevan kuin haittaa. AI luo "hakutuloksia" itsestään eikä niillä usein ole mitään tekemistä todellisuuden kanssa. Tämähän ei toki haittaa näitä käyttäviä firmoja vähimmässäkään määrin kunhan rahaa tulee sisään siinä sivussa. Eli ainoat joita tämä haittaa ovat ne kenties 1-2% käyttäjistä jotka tajuavat edes suurin piirtein missä mennään?
Eikä AI-avusteiset tule mitenkään väistämättä paranemaan kunhan moisia hakuja tarjoavat firmat vähitellen oppivat säätämään AI-avusteitaan haluamaansa suuntaan. Mutta vain aika näyttää enkä ole vielä toiveikas.