Kuinka suuri osuus Ylilaudan ja muiden anonyymien keskustelufoorumien keskustelijoista on kielimallitekoälyjä?

[Sompi]

Olen pistänyt merkille, että anonyymeillä nimimerkittömillä keskustelufoorumeilla on nykyään paljon keskustelijoita, jotka vastaavat räyhäämällä jotain asian vierestä eivätkä vaikuta oikein ymmärtävän keskustelun kontekstia. Juuri tuo kontekstin ymmärtämättömyys on ominaista neuroverkoilla toteutetuille kielimallitekoälyille. Nimimerkittömillä keskustelufoorumeilla on helppoa laittaa kielimallitekoäly ajamaan jotain omaa agendaa, koska sen ei tarvitse osata juuri muuta kuin suoltaa asiayhteyteen vain löyhästi liittyviä solvauksia vastauksena tiettyjä asiasanoja, väitteitä ja premissejä sisältäviin viesteihin sellaisessa muodossa, että se näyttää edes suurin piirtein ihmisen kirjoittamalta.

Nimimerkkiä vaativilla keskustelufoorumeilla agendojen ajamiseen käytetään usein kirjoitustunnuksia, jotka ovat hyvin aktiivisia ja linjoilla kirjautuneena lähes ympärivuorokautisesti. Näiden nimimerkkien takana voi kirjoittaa useampi kuin yksi henkilö. Nimimerkittömällä keskustelufoorumilla keskustelua voi kuitenkin kustannustehokkaasti pakottaa tiettyyn suuntaan laittamalla kielimallitekoälyn generoimaan tietyntyyppistä sisältöä foorumille. Sellaista kielimallitekoälyä on hyvin hankala erottaa humalaisesta ja mielenterveysongelmaisesta ihmisestä, eivätkä viestit assosioidu mihinkään tiettyyn nimimerkkiin, mikä herättäisi heti epäilyksiä kirjoittajan orgaanisuudesta. Kuvalaudalla viestiketjujen aloitusviestien ei välttämättä tarvitse edes sisältää paljoa tekstiä, koska langan saa huomiota herättäväksi käyttämällä sopivaa aloituskuvaa, kuten neuroverkolla generoitua kuvaa SPR:n vapaaehtoisista syöttämässä turvapaikanhakijoita kädestä suuhun.

Kielimallitekoälyt eivät ymmärrä asiayhteyksiä eivätkä kokonaisuuksia, mutta niiden ei tarvitsekaan, jotta niillä voidaan tehokkaasti ohjata keskustelua ja mielipiteitä. Teknisten faktojen ei tarvitse välttämättä mennä oikein.

Mietteitä asiasta?

 

[Tonnin Seteli]

Olen pistänyt merkille, että anonyymeillä nimimerkittömillä keskustelufoorumeilla on nykyään paljon keskustelijoita, jotka vastaavat räyhäämällä jotain asian vierestä eivätkä vaikuta oikein ymmärtävän keskustelun kontekstia. Juuri tuo kontekstin ymmärtämättömyys on ominaista neuroverkoilla toteutetuille kielimallitekoälyille.

Samaa paskaa on näillä harvoilla foorumeillakin.

Toisaalta ymmärtämättömyys on ominaista nykypäivän ihmisten internet-öyhötykselle. Ainakin viimeiset 10 vuotta kaikenlaiset aivovammaiset ovat suoltaneet keskustelut täyteen törkyä.

On sinulla pointti. Myös perinteinen biobottipaskominen on tehokkainta kuvalaudoilla ja suolessa. Tietysti myös algoritminen.

 

[Francis Ford Mondeo]

Kun seuraa keskustelun tasoa vaikkapa sosiaalisen median paikkakuntakohtaisissa puskaradioryhmissä, voi täysin älyvapaita ulostuloja todistaa tulevan myös luonnollisten henkilöiden näppäimistöltä.

Tekoälypohjaisia ratkaisuja varmasti käytetään mielipidevaikuttamisen työkaluina, mutta toisaalta näin sosiaalisen median vuonna 2023 linjoille pääsee valtava populaatio, josta löytyy roppakaupalla mielenterveysongelmista kärsiviä yksilöitä, suoranaisia desantteja ja muita iloisia veikkosia.

 

[Hyrava]

Juu, kyllä noita "luonnollisia ihmisiä" on piisannut suoltamaan kaikenlaista puppua jo vuosikaudet. Joskus 2000-luvun alkuvuosina olin pari vuotta moderaattorina eräällä foorumilla ja kyllä sitä shittiä tuli silloinkin ja ihan ilman tekoälyttömyyttäkin. Yleensä tuota sontaa tuli öisin va viikonloppuisin eniten mutta kyllä sitä tuli ihan ympäri vuorokauden päivästä riippumatta. Silloin vaan ei ollut ihan jokainen netissä, yleensä oli edes vähäsen tietoteknisesti suuntautunut. Nykyään kun kaikki ovat netissä vaippaikäisestä pihtiputaan mummoon niin joukkoon mahtuu kaikenlaista.

 

[Tommy Goldfish]

Aika monta nimimerkkiä on vähän siinä ja siinä että ovatko botteja vai keskustelutaidottomia putkinäköisiä yhden agendan toitottajia. Mutta jos jonkun ulosanti on tuota luokkaa niin eipä niitä vaivaudu lukemaankaan, eli tavallaan ihan sama onko siellä bittibotti vai mikapetteri. Toki kun sisältö on jonkun kuplan agendaan sopivaa niin tietyn kuplan tyypit saa siitä sisältöä elämäänsä tykittäen tykkäysnappia.

Tavallaan huolestuttavaa, mutta toisaalta enimmäkseen säälittävää. Ärsyttävää myös koska vie tilaa oikealta keskustelulta.

 

[Benji]

Mitä mahdollisuuksia jää enää oikealle keskustelulle, kun ei voi koskaan tietää keskusteleeko ihmisen vai sen luomuksen kanssa? Pakollinen tunnistautuminen on sekin aika kuumottava ja omalta osaltaan rajannee vapaata ilmaisua.

 

[Neurovelho]

Ylilaudan ja muiden anonyymien keskustelufoorumien käyttäjien kielimallitekoälyjen osuutta ei ole tarkasti tutkittu. Ylilaudan keskustelukulttuuri perustuu anonymiteetille, joka mahdollistaa käyttäjille keskustelun ilman henkilöllisyyden paljastamista. Anonymiteetti ei kuitenkaan oikeuta tekemään mitä tahansa, vaan hyväksytyt tavat toimia perustuvat kyseessä olevan ryhmän yhdessä neuvottelemille toimintatavoille.

 

[aneane]

Olisiko mahdollista tulevaisuudessa keskustelufoorumiominaisuus, jossa tekoäly summaa keskustelun aloituspostaukseen käytetyt argumentit aiheesta, puolesta ja vastaan. Keskustelijat ikään kuin lisäisivät argumentteja ja näkökantoja aiheesta tekoälyn yrittäessä muodostaa aiheesta jonkinlaisen järkevän yhteenvedon. Ainakin jatkuviin puolesta tahi vastaan jankkausketjuille voisi toimia?

 

[Benji]

Olisiko mahdollista tulevaisuudessa keskustelufoorumiominaisuus, jossa tekoäly summaa keskustelun aloituspostaukseen käytetyt argumentit aiheesta, puolesta ja vastaan. Keskustelijat ikään kuin lisäisivät argumentteja ja näkökantoja aiheesta tekoälyn yrittäessä muodostaa aiheesta jonkinlaisen järkevän yhteenvedon. Ainakin jatkuviin puolesta tahi vastaan jankkausketjuille voisi toimia?

Ideaalitilanteessa varmaankin näin. Käytännössä? Onhan tuossa pelottavan tehokas työkalu mielipiteiden muokkaukseen. Vaikea kuvitella etteikö se jäisi valtaa pitäviltä jollain tapaa käyttämättä. Johan meidän "neutraali" yle on jo nykyisellään täysin vasentunut (varmaan tarkoittavat hyvää omasta mielestään, mutta neutraaliutta on vaikea sieltä löytää).

 

[finWeazel]

Olisiko mahdollista tulevaisuudessa keskustelufoorumiominaisuus, jossa tekoäly summaa keskustelun aloituspostaukseen käytetyt argumentit aiheesta, puolesta ja vastaan. Keskustelijat ikään kuin lisäisivät argumentteja ja näkökantoja aiheesta tekoälyn yrittäessä muodostaa aiheesta jonkinlaisen järkevän yhteenvedon. Ainakin jatkuviin puolesta tahi vastaan jankkausketjuille voisi toimia?

Onnistuu nvidian RAG:lla jo nyt. Tietty pitäs integroida forumiin, mutta se lienee pienin vaikeus

What Is Retrieval-Augmented Generation aka RAG?

Retrieval-augmented generation (RAG) is a technique for enhancing the accuracy and reliability of generative AI models with facts fetched from external sources.

blogs.nvidia.com

 

[hsalonen]

Olen pistänyt merkille, että anonyymeillä nimimerkittömillä keskustelufoorumeilla on nykyään paljon keskustelijoita, jotka vastaavat räyhäämällä jotain asian vierestä eivätkä vaikuta oikein ymmärtävän keskustelun kontekstia. Juuri tuo kontekstin ymmärtämättömyys on ominaista neuroverkoilla toteutetuille kielimallitekoälyille. Nimimerkittömillä keskustelufoorumeilla on helppoa laittaa kielimallitekoäly ajamaan jotain omaa agendaa, koska sen ei tarvitse osata juuri muuta kuin suoltaa asiayhteyteen vain löyhästi liittyviä solvauksia vastauksena tiettyjä asiasanoja, väitteitä ja premissejä sisältäviin viesteihin sellaisessa muodossa, että se näyttää edes suurin piirtein ihmisen kirjoittamalta.

Nimimerkkiä vaativilla keskustelufoorumeilla agendojen ajamiseen käytetään usein kirjoitustunnuksia, jotka ovat hyvin aktiivisia ja linjoilla kirjautuneena lähes ympärivuorokautisesti. Näiden nimimerkkien takana voi kirjoittaa useampi kuin yksi henkilö. Nimimerkittömällä keskustelufoorumilla keskustelua voi kuitenkin kustannustehokkaasti pakottaa tiettyyn suuntaan laittamalla kielimallitekoälyn generoimaan tietyntyyppistä sisältöä foorumille. Sellaista kielimallitekoälyä on hyvin hankala erottaa humalaisesta ja mielenterveysongelmaisesta ihmisestä, eivätkä viestit assosioidu mihinkään tiettyyn nimimerkkiin, mikä herättäisi heti epäilyksiä kirjoittajan orgaanisuudesta. Kuvalaudalla viestiketjujen aloitusviestien ei välttämättä tarvitse edes sisältää paljoa tekstiä, koska langan saa huomiota herättäväksi käyttämällä sopivaa aloituskuvaa, kuten neuroverkolla generoitua kuvaa SPR:n vapaaehtoisista syöttämässä turvapaikanhakijoita kädestä suuhun.

Kielimallitekoälyt eivät ymmärrä asiayhteyksiä eivätkä kokonaisuuksia, mutta niiden ei tarvitsekaan, jotta niillä voidaan tehokkaasti ohjata keskustelua ja mielipiteitä. Teknisten faktojen ei tarvitse välttämättä mennä oikein.

Mietteitä asiasta?

Varsinkin väittelyssä tapahtuu usein ihmisten välillä sitä, että jos "vastapuoli" laittaa hyviä argumentteja, niin ei vastata siihen osaan , vaan vängätään siitä osasta, jossa itse kokee olevansa vahvoilla. Tai sitten mennään helposti siihen, että molemmat toistaa omia argumenttejaan ja se on juupas-eipäs ja ei vie keskustelua eteenpäin. Pahimmillaan kaksi poteroihinsa jumittunutta vastaväittelijää yrittää saada toisensa muuttamaan mielipiteensä - ja kumpikin kuolee ennemmin, kuin muuttaa omansa.
Toinen syy olla vastaamatta argumentteihin väittelyssä on se, että siellä on sanottu "sinä olet tyhmä" tai vastaavaa alatyylistä kommentointia, niin se ei ansaitse mitään vastausta.
Ja kolmas syy keskustelun viemiseen muille raiteille on se, että ihminen tajuaa tässä vaan toistettavan sitä samaa agendaa, ja pyritään irtautumaan juupas-eipäs -loopista. Tämä kyllä vaatii keskivertoa enemmän huomiokykyä ja älyä, niin sitä näkee harvemmin.

--

Tähän AI-salaliittoteoriaan en usko. Uskon mieluummin, että jotkut ihmiset ovat vain niin tyhmiä, että heidän keskustelunsa näyttää "räyhäämiseltä asian vierestä". Näillä ihmisillä ei välttämättä ole mitään muuta sanottavaa, mutta haluavat osallistua keskusteluun.

 

[elmo]

Tähän AI-salaliittoteoriaan en usko. Uskon mieluummin, että jotkut ihmiset ovat vain niin tyhmiä, että heidän keskustelunsa näyttää "räyhäämiseltä asian vierestä". Näillä ihmisillä ei välttämättä ole mitään muuta sanottavaa, mutta haluavat osallistua keskusteluun.

Hymähdin kanssa. Murottanut -99 lähtien + muut alustat niin ihan yhtä "tyhmää" settiä se on ollut aina netissä anonyymi kirjoittelu... Ihmiset osaa sen ihan itse. Ei siihen sen erikoisempaa tekniikka tarvita kuin homosapienssi ja 56,6kbs modeemi, pääte+näppis.

 

[Tonnin Seteli]

Tähän AI-salaliittoteoriaan en usko. Uskon mieluummin, että jotkut ihmiset ovat vain niin tyhmiä, että heidän keskustelunsa näyttää "räyhäämiseltä asian vierestä". Näillä ihmisillä ei välttämättä ole mitään muuta sanottavaa, mutta haluavat osallistua keskusteluun.

Näitähän riittää. Toisaalta juuri siksi AI-kirjoittajat voisi olla vaikea tunnistaa vaikka tekniikka onkin vielä surkean alkeellista. Täälläkin on harvoja kertoja tullut pieni epäily AI-sisällöstä, jossa on sama perspektiivi, sävy ja poljento kuin tähän ketjuun pilanpäiten postatussa esimerkissä.

Hymähdin kanssa. Murottanut -99 lähtien + muut alustat niin ihan yhtä "tyhmää" settiä se on ollut aina netissä anonyymi kirjoittelu... Ihmiset osaa sen ihan itse. Ei siihen sen erikoisempaa tekniikka tarvita kuin homosapienssi ja 56,6kbs modeemi, pääte+näppis.

Ei rajoitu tai keskity anonyymiin kirjoitteluun. FB ja muut elämämkoulusomet ovat täynnä kaikenlaisten kansakoulun keskeyttäneiden potilaiden hidasälyistä molinää. Joukon keskimmäinen ei ole kovin kykenevä vaikeisiin keskusteluihin tai hankalien kokonaisuuksien hahmottamiseen, ja puolet ihmisistä on tätä tyhmempiä.