Tekoälyjärjestelmien turvallisuudesta allekirjoitettiin kansainvälinen sopimus

[NeliYgönen]

NeliYgönen kirjoitti uutisen/artikkelin:
18 maata, mukaan lukien Yhdysvallat ja Iso-Britannia, ovat allekirjoittaneet sopimuksen, jonka mukaan jo tekoälyjärjestelmien suunnitteluvaiheessa tulisi kiinnittää huomiota ja asettaa aiempaa suurempaa painoarvoa niiden turvallisuuteen. Sopimus sisältää suosituksia, mutta ei ole laillisesti maita sitova. Sen tarkoitus on suojella sekä palveluiden käyttäjiä että suurempaa yleisöä väärinkäytöksiltä. Sopimuksen mukaan tekoälyjärjestelmien kehitysvaiheessa tulisi panostaa esimerkiksi väärinkäytön valvontakeinoihin ja tietojen peukaloinnin estämiseen.

Yhdysvaltain kyberturvallisuusvirasto CISA:n (Cybersecurity and Infrastructure Security Agency) johtajan Jen Easterlyn mukaan on merkittävä edistysaskel, että niin moni maa pitää tekoälyjärjestelmien turvallisuutta niiden suunnittelun kulmakivenä. Vaikka uuden sopimuksen odotetaan parantavan tekoälyjärjestelmien tietoturvaa ja niiden asianmukaista testaamista ennen julkaisua, se ei ota kantaa tekoälyn käyttökohteisiin tai tekoälymallien harjoittamiseen käytetyn datan keräysmenetelmiin.

Tekoälyturvallisuudessa Yhdysvallat on ollut hieman Eurooppaa jäljessä, sillä esimerkiksi Ranska, Saksa ja Italia ovat hiljattain allekirjoittaneet sopimuksen ohjesäännöstä, joka parantaa tulevien tekoälyjärjestelmien säätelyä. Sopimus on luettavissa NCSC:n (UK National Cyber Security Centre) sivuilla.

Lähde: Reuters

Linkki alkuperäiseen juttuun

 

[XamiX]

tarpeeksi rikas rikollisjärjestö tahi vaikka itänaapurimme ei mistään näistä sopimuksista välitä, vaan tekee tekoälyllä mitä tahansa mitä niitä itseään huvittaa

 

[Leo_Greta]

Ja eipä sellaisesta sopimuksesta muutenkaan paljoa ole iloa, jota ei tarvi noudattaa..

 

[Kaotik]

Ja eipä sellaisesta sopimuksesta muutenkaan paljoa ole iloa, jota ei tarvi noudattaa..

Se on fiftisiksti niin sanotusti. Vaikkei ole pakko niin valtiotasolla on sanoillakin iso merkitys

 

[Leo_Greta]

Se on fiftisiksti niin sanotusti. Vaikkei tmole pakko niin valtiotasolla on sanoillakin iso merkitys

Jep, etenkin, jos haluaa osallistua johonkin valtion, joka on allekirjoittanut tuon, AI-projektiin. Tuota kautta on EHKÄ hyvä mahdollisuus, että suurinosa AI:n rahoituksesta suuntautuu projekteihin, jotka noudattaa tuota sopimusta.

Ainakin toivon niin...

Tosin tuosta viimeaikaisesta OpenAI katastrofista päätellen (HUOM!!! HUOM!! Oma mielipide!!), AI:n kehittäjiä, sekä AI:tä kehittävien firmojen omistajia, kiinnostaa vain se kuinka paljon voittoa ne saavat.

 

[Leiska]

Tämä siis vähän niin kuin Pariisin ilmastosopimus, missä ei oikeasti tarvitse situoutua yhtään mihinkään?