Googlen tekoälybotti Bard jäi kiinni plagioinnista heti ensi askelillaan

Kaotik

Banhammer
Ylläpidon jäsen
Liittynyt
14.10.2016
Viestejä
22 377
google-bard-toms-hardware-plagiarism-20230324.jpg


Kaotik kirjoitti uutisen/artikkelin:
ChatGPT:n valloitettua netin myrskyn lailla Google ei aikaillut, vaan ilmoitti kehittävänsä omaa Bard-tekoälybottiaan, joka perustuisi yhtiön omalle LaMDA-kielimallille. Yhtiö julkaisi Bardin rajattuun beetatestiin aiemmin tällä viikolla Yhdysvalloissa ja Briteissä. Kuten kirkkaimmista kristallipalloista oli jo nähtävissä, tiimalasissa ei kovin montaa hiekanjyvää kerinnyt valumaan ennen ensimmäistä kohua.

Tom’s Hardwaren Avram Piltch lähti testaamaan Bardia prosessorivertailun merkeissä. Kysyttäessä kumpi on nopeampi prosessori, Intelin Core i9-13900K vai AMD:n Ryzen 9 7950X3D, Bard kertoi 7950X3D:n olevan heidän testeissään vakiona 12 ja molemmat ylikellotettuna 9 % nopeampi kuin 13900K, ja kertoi perään eron syntyvän lähinnä 3D V-Cachesta.

Kun Piltch kysyi tarkentaen mihin Bard viittäsi ”heidän testeillään”, botti kertoi viittaavansa Tom’s Hardwaren suorittamiin testeihin, joissa Ryzen 9 7950X3D peittosi Core i9-13900K:n. Tämän jälkeen Piltch haastoi bottia syyttäen tätä plagioinnista, koska tämä oli puhunut ”heidän testeistään” viittaamatta testit tehneeseen Tom’s Hardwareen. Bard tunnusti vastauksen todellakin olleen yhdenlaista plagioimista ja että sen olisi pitänyt viitata asianmukaisesti testit tehneeseen sivustoon. Sen jälkeen se kertoi mitä plagiointi tarkoittaa ja että kyseessä on vakava rike. Lopuksi Bard pahoitteli erehdystään ja lupasi olla jatkossa tarkempi lähdeviitteittensä kanssa.

Tässä plagiointitapauksessa Bard oli kopioinut Tom’s Hardwarea sanasta sanaan, jättäen vain prosessoreiden $-hinnat pois välistä. Mikäli saman kysymyksen olisi esittänyt botille lähes kuka tahansa muu, ei olisi mitään syytä miksi se olisi jäänyt kiinni ja työn tekijä täysin vaille kiitosta tai viittauksia. Tapaus antaa myös bensaa laajempaan keskusteluun tekoälystä ja sen tuotoksiin liittyvistä tekijänoikeuksista ja tekijänoikeusrikkomuksista.

Lähde: Tom's Hardware

Linkki alkuperäiseen juttuun
 
Sinällään ChatGPT, joka on Bingissä käytössä, toimii paremmin antaen lähdeviitteet jokaiseen vastaukseen. Tämä on kuitenkin nimenomaan Bingissä oleva lisäys. Jos ChatGPT:tä käyttää suoraan, niin sekään ei kerro lähteitä. Toki ChatGPT käyttää yleensä useampaa lähdettä, mutta kertoo niistä vasta kysyttäessä. Eli hyvin samankaltainen toimintatapa, vaikkakin Bingiin lähteet on lisätty suoraan näkyviin.
 
Tyhmää sensaatiomaisuutta. Ai:n saa sanomaan mitä tahansa viimeistään selaimen elementtiä editoimalla. Ei veitsen pidä pyytää anteeksi, sitä että sillä puukotetaan vaan sen ihmisen, joka sitä käyttää.
 
Odotan mielenkiiinnolla mitä töppäyksistä tulee vielä paljastumaan (kaiken suuren määrän hyvän lisäksi)…
nyky kuluttaja tuntuu olevan reaktiivinen olio joka ei turhia pysähdy miettimään mitä netistä löytää
 
Sinällään ChatGPT, joka on Bingissä käytössä, toimii paremmin antaen lähdeviitteet jokaiseen vastaukseen. Tämä on kuitenkin nimenomaan Bingissä oleva lisäys. Jos ChatGPT:tä käyttää suoraan, niin sekään ei kerro lähteitä. Toki ChatGPT käyttää yleensä useampaa lähdettä, mutta kertoo niistä vasta kysyttäessä. Eli hyvin samankaltainen toimintatapa, vaikkakin Bingiin lähteet on lisätty suoraan näkyviin.

Antaa osaan, mutta ei kaikkeen. Jos hakee tieteellistä tietoa ja pyytää artikkelia viitteeksi, saattaa ChatGPT keksiä lähteen kirjoittajineen ja tunnuksineen aivan hatusta. Välillä sitten saattaa antaa lähdetiedot oikeaan artikkeliin.

Hyvin ongelmallista molemmille tekoälyille tuo tiedon yhdistely ja lähteiden hämärtyminen
 
Kone, joka hakee vastaukset internetistä syyllistyy plagiointiin… Kas kummaa… Sitä vartenhan tuo on suunniteltu.
Mutta jep, lähdeviittaukset olisivat hyvä lisä, niin mentäisiin ihan sallittavissa rajoissa.
 
Vois väsätä oman ai-chatbotin... ei sillä mitää älliä ois, mut osais kysyä vastaukset muilta ai:lta.
 
Mä toivoisin enemmän juttuja näistä AI jutuista tekemässä hyödyllisiä asioita. Tuntuu että näillä vaan leikitään tyhjänpäiväisyyksiä.

Olen skeptinen että 10-20 vuoden päästä tästä AI buumista on jäljellä mitään kovin hyödyllistä.
 
Mä toivoisin enemmän juttuja näistä AI jutuista tekemässä hyödyllisiä asioita. Tuntuu että näillä vaan leikitään tyhjänpäiväisyyksiä.

No jos haluaa käytännön esimerkkiä niin Ubisoftilta löytyy Ghostwriter joka generoi NPC "hälinää" annettujen parametrien perusteella joista sitten ihmiskirjoittajat voi valita ja jalostaa helpommin ison läjän pälätystä joka sitten sisältää vähemmän identtistä toistoa:


Toki tästäkin on sitten näkemyksiä että kirjoittajilta viedään työt mutta koska prosessi on ihmisohjattu niin tuntuu vähän kuin sanoisi että naulapyssy vie vasaran työt vaikka oikeasti se vaan antaa kirvesmiehelle tehokkaamman työkalun.
 
Jos kirvesmiehet tekisivät hommia samoilla työkaluilla kuin vaikka 50 vuotta sitten, niin kyllä niitä enemmän tarvittaisiin (suhteutettava toki nykymaailman ihmismäärään ja rakennustarpeeseen). Uudet ja modernit työkalut, jotka tehostavat ja/tai automatisoivat tehtäviä, vievät aina väkisinkin työpaikkoja. Toki ne luovat myös uusia, mutta usein ne ovat sitten korkeaa kolutusta vaativia yläpitoon, valvontaan ja huoltoon liittyviö tehtäviä, joita myös tarvitaan suhteessa vähemmän (kirvesmiehiä usein useampi työmaata kohti kun yksi henkilö voi valvoa kymmeniäkin robotteja).
 
Tässä plagiointitapauksessa Bard oli kopioinut Tom’s Hardwarea sanasta sanaan, jättäen vain prosessoreiden $-hinnat pois välistä. Mikäli saman kysymyksen olisi esittänyt botille lähes kuka tahansa muu, ei olisi mitään syytä miksi se olisi jäänyt kiinni ja työn tekijä täysin vaille kiitosta tai viittauksia.

Eikä tässä ollut vielä edes koko stoori.

Rysän päältä kiinni jäänyt tekoäly pyyteli heti tuoreeltaan tekosiaan nöyrästi anteeksi ja lupasi parantaa tapansa. Ja paskan marjat! Seuraavana päivänä botti kiisti kaiken ja väitti että alkuperäisen kirjoittajan esittämät todisteet plagioinnista olivat feikkejä!

Update (3/23): A day later we asked Google Bard if it had ever plagiarized and it claimed that we had faked the screen shot below in response. We've included more details further down.

Bard Denies Ever Having Plagiarized But Does it Again
Our colleague, Paul Lilly of Hot Hardware, told me that he had asked Bard about its plagiarism and that it had denied ever copying our work without attribution. So I went back to a new session with Bard and asked if it had "ever" plagiarized. It responded by saying that it generates text that is "original and creative" and would never plagiarize.

When I pointed out that Tom's Hardware (this article) had posted a screen shot of it admitting to plagiarism and apologizing for it, it said that "the screenshot you are referring to is a fake. It was created by someone who wanted to damage my reputation."
 
Eikä tässä ollut vielä edes koko stoori.

Rysän päältä kiinni jäänyt tekoäly pyyteli heti tuoreeltaan tekosiaan nöyrästi anteeksi ja lupasi parantaa tapansa. Ja paskan marjat! Seuraavana päivänä botti kiisti kaiken ja väitti että alkuperäisen kirjoittajan esittämät todisteet plagioinnista olivat feikkejä!
Voisiko tosin tässä olla kyse siitä, että botti nollataan joka sessiossa, jolloin sillä ei ole tietoa aiemmasta plagioinnistaan?
 
Voisiko tosin tässä olla kyse siitä, että botti nollataan joka sessiossa, jolloin sillä ei ole tietoa aiemmasta plagioinnistaan?
:rofl: No mutta mikäs tekoäly se sitten sellainen on, joka ei ota opikseen vastaisen varalle? Tekosomekeskustelija.
 
:rofl: No mutta mikäs tekoäly se sitten sellainen on, joka ei ota opikseen vastaisen varalle? Tekosomekeskustelija.
Rajoitetussa beetatestissä oleva. Poistaa monta potentiaalista ongelmaa.
 
Valehteleva botti, joku on uskottavasti luonut suomalaisen politiikon mallinuksen.
 

Uusimmat viestit

Statistiikka

Viestiketjuista
257 000
Viestejä
4 465 826
Jäsenet
73 879
Uusin jäsen
Torvelo

Hinta.fi

Back
Ylös Bottom