EU-parlamentti hyväksyi maailman ensimmäiset säännöt tekoälylle ja sen kehitykselle

[Kaotik]

Kaotik kirjoitti uutisen/artikkelin:
Tekoäly on tämän hetken ns. kuuminta hottia mitä tietotekniikkaan tulee. Erilaiset generatiiviset tekoälybotit parantuvat hurjaa tahtia, eikä kehitystä ole ehditty vielä rajoittaa oikeastaan millään tasolla, vaikka useat tahot ovatkin varoitelleet sen vaaroista.

EU on nyt hyväksynyt maailman ensimmäiset säännöt tekoälylle ja sen kehitykselle. Keskiviikon täysistunnossa hyväksyttiin vime joulukuussa sovittu asetus äänin 534 puolesta, 46 vastaan ja 49 tyhjää. Asetuksen tarkoitus on suojella ihmisten perusoikeuksia, demokratiaa, oikeusvaltioperiaatetta ja ympäristön kestävyyttä suuririskiseltä tekoälyltä, mutta samalla edistää innovointia ja tehdä EU:sta alan johtava toimija. Kriitikot ovat kuitenkin jo todenneen muun maailman juoksevan oikealta ja vasemmalta ohi, kun EU on toistaiseksi ainut kehitystä rajoittava taho.

Uuden asetuksen mukaan kiellettyjä ovat esimerkiksi arkaluonteisiin ominaisuuksiin perustuvat biometriset luokittelujärjestelmät ja kasvokuvien kohdentamaton haravointi tunnistustietokantojen luomiseksi, sosiaalinen pisteytys, henkilön profilointiin tai ominaisuuksiin perustuva ennakoiva poliisitoiminta, käyttäytymistä muokkaava tai ihmisen haavoittuvuuksia hyödyntävät sovellukset sekä työpaikoilla ja kouluissa tunteita tunnistavat sovellukset.

Lainvalvojille on annettu kuitenkin mahdollisuus käyttää myös reaaliaikaisia biometrisiä tunnistusjärjestelmiä, kunhan se tehdään tiukkojen suojatoimien puitteissa. Käytön tulee olla rajattua esimerkiksi ajallisesti ja maantieteellisesti ja se vaatii erillisen oikeudellisen tai hallinnollisen luvan. Esimerkkeinä mahdollisista skenaarioista reaaliaikaisten biometristen tunnistusjärjestelmien käyttöön annettiin terrori-iskujen estäminen sekä kadonneiden henkilöiden kohdennettu etsintä. Jälkikäteen vastaavien järjestelmien käyttö lasketaan suuririskiseksi, jolloin sen on liityttävä rikokseen ja sille on saatava oikeudelta lupa.

Suuririskisiksi luokitellut tekoälyjärjestelmät voivat EU:n tulkinnan mukaan aiheuttaa merkittävää haittaa terveydelle, turvallisuudelle, perusoikeuksille, ympäristölle, demokratialle ja oikeusvaltioperiaatteelle. Tämän vuoksi järjestelmissä on läpinäkyvästi ja täsmällisesti arvioitava ja vähennettävä riskejä, ylläpidettävä käyttölokeja ja varmistettava ihmisen suorittama valvonta. Kansalaisilla on myös oikeus tehdä järjestelmiä koskevia valituksia ja saada selvityksiä niihin liittyvistä päätöksistä, jotka vaikuttaisivat heidän oikeuksiinsa.

Yleiskäyttöisten tekoälyjärjestelmien ja niiden perustana olevien (kieli)mallien on täytettävä erikseen määritellyt avoimuusvaatimukset. Niiden koulutuksessa on myös noudatettava EU:n tekijänoikeuslakeja. Mikäli yleiskäyttöinen tekoälyjärjestelmä koetaan liian tehokkaaksi tai järjestelmäriskejä aiheuttavaksi, niihin kohdistetaan lisävaatimuksia, joihin lukeutuvat mutta jotka eivät rajoitu vain mallien ja järjestelmäriskien arviointiin ja lieventämiseen sekä vaaratilanteiden raportoimiseen. Erilaiset ns. deep fake- eli syväväärennöskuva-, ääni- ja videomateriaalit on merkittävä selkeästi sellaisiksi väärinkäsitysten ehkäisemiseksi.

Pieniä ja keskisuuria yrityksiä tuetaan kansallisella tasolla perustettavilla sääntelyn testiympäristöillä ja niissä toteutettavilla todellisia olosuhteita vastaavilla testeillä, jotka on saatettava yritysten käytettäviksi. Tätä pidetään edellytyksenä innovatiivisten tekoälyjen kehitykselle ja koulutukselle ennen niiden tuloa markkinoille.

Lähde: EU Uutiskuva on luotu Dall-E 3 -kielimallia hyödyntävällä Copilotilla

Linkki alkuperäiseen juttuun

 

[Moradin]

Toivottavasti asimovilla oli vaikutusta näihin sääntöihin

 

[Infy]

Mites onkaan tekijäinoikeuksien laita kun keinoälyn luomassa uutiskuvassa on Bender robottti Futuramasta? Onko tässä syyllistytty tekijäinoikeuksien loukkaukseen?

 

[käärmes]

"Toivottavasti asimovilla oli vaikutusta näihin sääntöihin" Toivottavasti ei, koska noi lait eivät tarkoita mitään kuin niille jotka eivät ymmärrä tekoälystä paljoakaan. EU rakastaa ohjata tuottoisaa bisnestä aina muille talousalueille.

 

[miksu8]

Vielä kun saisi jotain tuotantoakin Eurooppaan.

 

[The Groke]

Mites onkaan tekijäinoikeuksien laita kun keinoälyn luomassa uutiskuvassa on Bender robottti Futuramasta? Onko tässä syyllistytty tekijäinoikeuksien loukkaukseen?

Ainakaan sitä ei ole asianmukaisesti merkitty deepfakeksi.

 

[Kaotik]

Ainakaan sitä ei ole asianmukaisesti merkitty deepfakeksi.

Uutisen lopussa on koko ajan ollut maininta että kuva on luotu Dall-E 3 -kielimallia hyödyntävällä Copilotilla?

 

[The Groke]

Käsittääkseni se pitäisi olla itse kuvassa. Saatan olla väärässäkin, mutta jos vaikka tuon kuvan tosta nappaa jatkokäyttöön niin ei se disclaimer siinä mukana kulje.

Siis jos oikeasti tuon deepfake -sääntelyn tarkoituksesta puhutaan. Siinä on kuitenkin enemmän tarkoitus hallita sitä että henkilöistä tehtyjä väärennöksiä ei sekoiteta oikeaan. Benderin aitous on tässä melko toissijainen asia ja tuo alkuperäinen kommentti oli enemmän ja vähemmän kieli poskessa kirjoitettu.

 

[dragon age]

Kehityksen rajoituksesta tuli mieleen, että olisipa mahtava nähdä sitten joskus se tilanne kun tohtori Frankenstein kaikista rajoituksista huolimatta rakentaa tekoälyrobotin ja joka sitten herää sängystä ja tohtori huudahtaa it's alive!

Ehkä se menee niin, että yritykset myyvät robotteja sitten joka vuosi hieman parempia, samoin kuin näyttiksiä ja niitä sitten lopulta korjaillaan ja io-techissä myydään hajonneita ser-osastolla.
Voi hyvin kuvitella myynti-ilmoa: ylikellotettu maltillisesti, vaihdettu paremmat coolerit, jalka irronnut, puhuu sekavia, ei osaa keittää kahvia enää, mutta muuten hyvä vaikka matkaseuraksi

 

[lildevil]

Itse näkisin sääntelyn positiivisena asiana.

Näinä päivinä ei tunnu ihmisoikeuksilla olevan paljoa merkitystä kun suuryritykset rellestää menemään.
Moni komppaa onnessaan mukana, vaikkei se luultavasti palvele edes omaa etuaan pitkässä juoksussa.
Kun jossain vaiheessa on menty tarpeeksi pitkälle, niin kelkkaa on hyvin vaikea kääntä enää minnekään.

Kaikki varmaan tykkää ajatuksesta ihmisten pisteytyksestä Kiinan malliin potenssiin 1000.
Kone kyttää väsymättä kaikkia ja ikävä kyllä ihmiset eivät ole koneita..

 

[Ademeion]

Vielä kun saisi jotain tuotantoakin Eurooppaan.

Kommenttisi sisältää lausumattoman väitteen, että Euroopassa ei ole mitään tuotantoa. Seuraavassa hiukan realismia keskusteluun.

Eurooppa on maailman vauraimpia alueita. Se vauraus ei ole syntynyt eikä pysy yllä ilman suurta ja korkea-arvoista tuotantoa ja vientiä. Vuonna 2022 EU:n viennin osuus koko maailman hyödykkeiden viennistä oli suurempi kuin Yhdysvaltojen (14 % vs. 10 %), eikä ollut niin kaukana Kiinan viennin osuudesta (18 %) [lukujen lähde: Eurostat, syyskuu 2023]. Kun ottaa huomioon Kiinan yli kolminkertaisen väkiluvun ja vahvasti viennille rakentuvan talouden, EU-aluetta on realistisempaa kutsua tuotannon jättiläiseksi kuin alueeksi, joka ei tuota mitään.

 

[miksu8]

Kommenttisi sisältää lausumattoman väitteen, että Euroopassa ei ole mitään tuotantoa. Seuraavassa hiukan realismia keskusteluun.

Eurooppa on maailman vauraimpia alueita. Se vauraus ei ole syntynyt eikä pysy yllä ilman suurta ja korkea-arvoista tuotantoa ja vientiä. Vuonna 2022 EU:n viennin osuus koko maailman hyödykkeiden viennistä oli suurempi kuin Yhdysvaltojen (14 % vs. 10 %), eikä ollut niin kaukana Kiinan viennin osuudesta (18 %) [lukujen lähde: Eurostat, syyskuu 2023]. Kun ottaa huomioon Kiinan yli kolminkertaisen väkiluvun ja vahvasti viennille rakentuvan talouden, EU-aluetta on realistisempaa kutsua tuotannon jättiläiseksi kuin alueeksi, joka ei tuota mitään.

Jos huomasit niin täällä puhuttiin tekoälystä.

 

[Ademeion]

Jos huomasit niin täällä puhuttiin tekoälystä.

Sinä puhuit kuitenkin vain "tuotannosta", selittämättä mitä sillä tarkoitat. Kommenttisi ylimalkaisuuden vuoksi siirränkin ainakin osavastuun väärinymmäryyksestä ystävällisessä hengessä takaisin sinulle. Käsite "tekoälytuotanto" on tuntematon Googlelle, joten joudun arvailemaan mitä käyttämälläsi ilmauksellasi "tuotanto" tarkoitit. Jos tarkoitit tekoälyn hyödyntämistä muussa tuotannossa, sitä tehdään Euroopassa todellisuudessa paljon jo nyt. Jos tarkoitit tekoälytuotteita ja palveluita kehittäviä ja myyviä yrityksiä, niitä on alueella vähemmän ja varsinkin pienempiä kuin Yhdysvalloissa (joka on tekoälyliiketoiminnan suurin maa), mutta Euroopassa on kuitenkin merkittäviä alan yrityksiä (satojen miljoonien arvioisiakin). Nettihaku kertoo asiasta lisää.

Lauseessa "vielä kun saisi jotain tekoälytuotantoakin Eurooppaan” ei sen äärimmäisen liioittelevuuden vuoksi siis ole mieltä. Mielekäs korvaaja sille voisi olla esimerkiksi seuraava: "Eurooppa on jo hyvässä vauhdissa tekoälyinvestoinneissa ja tekoälyn kehittämisessä, mutta kaupallisissa tekoälypalveluissa ja -tuotteissa sillä on paljon kirimistä Yhdysvaltoihin nähden".

 

[Emeron]

Sinä puhuit kuitenkin vain "tuotannosta", selittämättä mitä sillä tarkoitat.

Luulisin että suurin osa ymmärtää puhuttavan topikin aiheesta

 

[Ademeion]

Luulisin että suurin osa ymmärtää puhuttavan topikin aiheesta

Apua, enemmistöargumentti! En voi kuin antautua . Tai jos minäkin yritän samaa: Enemmistö lienee myös huomannut, kun somekommentissa puhutaaan Euroopasta tai EU:sta, kommentoija on todennäköisemmin eksynyt keskustelun aiheesta (tai todellisuudesta) kuin ei ole. Mitäs sanot vastavedostani? (ja leikki puhtaasti leikkinä).

Vakavammin puhuen, miksu8:n kommentti keskustelun aiheen huomioimisen tärkeydestä on mielestäni hyvä. Aiemman kommenttini, johon hän vastasi, pääaihe oli tekoälyn kehittämisen ja hyödyntämisen todellinen määrä Euroopassa. Olemmeko suunnilleen samaa mieltä siitä asiasta?

 

[Rollerix]

Täytyy aika naiivi olla, jos ei ymmärrä tekoälyn käyttöön liittyvän aika karmeita riskejä. Joo, kyllä sillä todennäköisesti tuottavuutta saadaan kasvatettua, mutta voi tulla myös näpeille aika pahasti. Euroopassa ollaan onneksi valot päällä siinä mielessä että riskejä edes yritetään hallita. Amerikassa ja Kiinassa mennään tyypilliseen tapaan villin lännen tyyliin ja seuraukset nähdään sitten 5-10 vuoden kuluttua.

 

[vpmh]

Olipas hyvä artikkeli, kiitos vaivannäöstä!

 

[dragon age]

Itse näkisin sääntelyn positiivisena asiana.

Uutisissa juuri tänään kerrottiin, että tekoäly arvioi työnhakuilmoituksia, seuraavaksi varmaan arvioi kaiken mitä on olemassa. Se on kyllä huono juttu.

 

[dragon age]

Tämä nyt ei noihin ensimmäisiin sääntöihin liitykään, mutta olipa tuossa äsken hyvä kokemus Copilotista, vaikka tuuria se varmaan vain oli. Joskus on tullut pohdittua voisiko rakentaa oman kumppanirobotin ja kysyin nyt sitten Copilotilta asiasta.
Vastaus oli, että valitettavasti ei voi olla osa tekoälyrobottiani eikä tyttöystävänikään ja että täytyy vaihtaa heti puheenaihetta ja aloittaa uusi keskustelu

Ihmettelin kun tyrmäsi välittömästi hyvän idean.

Poistuin ja käynnistin uudestaan (ei pitäisi jäädä aiempia tietoja) ja kysyin, että miksi et voi olla osa tekoälyrobottiani.
Vastaus: pahoittelut siitä, että aiemmat vastaukseni aiheuttivat hämmennystä ja että minulla ei ole tunteita eikä preferenssiä jne. ja en siksi voi olla osa robottiasi.

Ihmettelin sitten vielä enemmän, että mistä Copilot tiesi mitä aiemmin olin kysynyt ja kysyin sitten siitä.
Vastaus: pahoittelut jos aiheutin hämmennystä, mutta tekoälymallina minulla ei ole muistia aiemmista vuorovaikutuksista käyttäjien kanssa. Jokainen vastaus luodaan itsenäisesti nykyisen keskustelun kontekstin perusteella.

Jäi kuitenkin vähäksi aikaa sellainen tunne, että kyllä Copilot jotenkin muisti aiemmat kysymykset
Toivottavasti joskus vielä saa ne tunteet ja preferenssit mukaan, sitten olisi jo aika hyvä.