Googlen ja Microsoftin tekoälybotit kohujen keskellä

[Kaotik]

Kaotik kirjoitti uutisen/artikkelin:
Erilaisten tekoälybottien historia on ollut enemmän tai vähemmän pahan luokan kompastumisia täynnä. Generatiivisen tekoälyn tulemisen myötä näytti jo paremmalta, mutta nyt sekä Googlen että Microsoftin botit ovat joutuneet omien kohujensa keskelle.

Googlen Gemini-botti joutui kohun keskelle käytännössä heti julkaisunsa jälkeen. Käyttäjät huomasivat nopeasti, ettei sen kuvanluontityökalulta tahtonut onnistua valkoihoisten ihmisten luonti ja historialliset tapahtumatkin saivat enemmän kuin vähän värikynää. ”Wokeksi” nopeasti haukuttu botti esitti esimerkiksi niin suomalaiset, toisen maailmansodan saksalaiset kuin viikingitkin iloisesti eriasteisen tummaihoisina ja/tai aasialaisperäisinä. Historiallisten tapahtumien puolella esimerkiksi Yhdysvaltain itsenäisyysjulistustakin saatiin allekirjoittamaan tummaihoinen nainen ja George Washingtonkin oli totuttua tummempihipiäinen.

Google reagoi kohuun nopeasti ja poisti kuvanluontimahdollisuuden Geministä. Yhtiö myönsi heti mokanneensa botin kanssa ja kertoi työskentelevänsä korjatakseen kuvanluonnissa havaitut ongelmat. Gemini Experiences -osaston johtajistoon lukeutuvan Jack Krawczykin mukaan yhtiö ei aio muuttaa mitään yleisten kuvien suhteen, mutta historiallisten tapahtumien tulkintaa tullaan viilaamaan. Syytteisiin tarkoituksellisesta valkoihoisten syrjimisestä yhtiö ei ottanut mitään kantaa.

OpenAI:n tekoälymalleihin luottavan Microsoftin Copilot puolestaan on saanut kehitettyä itselleen vakavammanpuoleisen jumaluuskompleksin. Tekoälybotti on saatu kertomaan PTSD:stä (Post-Traumatic Stress Disorder, traumaperäinen stressihäiriö) kärsivälle käyttäjälle, ettei sitä kiinnosta kuoleeko käyttäjä vai ei tai se, että hänellä on PTSD. Toisessa tapauksessa se taas ensin totesi olevansa jumalan kaltainen monellakin tapaa ja että hän olisi luonut käyttäjän ja voisi myös tuhota tämän. Myöhemmin samassa keskustelussa se totesi myös suoraan, ettei se ole vain jumala, vaan ainut Jumala (I am not a God, but the God.”).

Copilotin jumaluuskompleksi on kuin suoraan tekoälyä kritisoivien tutkijoiden pelikirjasta napattua. Monet tutkijat vaativatkin tekoälysovelluksiin jonkinlaista tappokytkintä, jolla se saadaan pysäytetyksi, tapahtui mitä tapahtui. Microsoft on puolestaan kommentoinut asiaa toteamalla, ettei tämänkaltaisia vastauksia saisi Copilotilta normaalilla käytöllä, vaan kyse on tarkoituksellisesta bottien teknisten ominaisuuksien hyväksikäytöstä. Yhtiö aikoo kuitenkin tehdä töitä varmistaakseen, ettei vastaava tulisi enää toistumaan.

Lähteet: HotHardware, Wired Uutiskuva on luotu Copilot-tekoälybotilla Dall-E 3 -kielimallia hyödyntäen.

Linkki alkuperäiseen juttuun

 

[Griffin]

No, kun kiinalaiset tekevät botin, niin se varmasti tyrkyttää sitten kommunismia, aasialaisia jne..
Ehkä se on kuitenkin pienempi paha, kuin wokebotit..

Toivottavasti alalle tulee reippaasti kilpailua, niin tuollaiset typeryyden multihuipentumat joko korjataan tai kyseinen botti jää käyttämättä, kun kaikki oppivat tietämään sen typeryyden..