Robotit ja tekoäly vie työpaikat

[Johan_V]

Skynet taitaa kolkutella oven takana. Sotahommissa pitää ainakin määritellä tosi tarkasti rajat, minkä sisällä tekoäly saa mellastaa. Ihan realistista tuntuu olevan dystopioiden tapaan, että tekoäly haluaa saavuttaa tavoitteensa keinoja kaihtamatta.

Everstin kertomus komentajansa ”tappaneesta” tekoälystä olikin pelkkä ajatuskoe

Tekoäly halusi saavuttaa tavoitteensa kaikin keinoin. Valitettavasti näihin keinoihin kuului myös hyökkäys omia joukkoja vastaan.

www.tivi.fi

Tyypillinen huonosti määritelty optimointitehtävä, jossa tietyistä saavutuksista saa pisteitä ja toisista menettää. Sitten ihmetellään kun saadaan ratkaisuja joka ei ollut sellainen kun ohjelmoija halusi. Tällä ei varsinaisesti ole mitään tekemistä tekoälyn kanssa, paitsi että saadaan revittyä sensaatiomaisia otsikoita skynetistä ja kapinoivista roboteista.

 

[Hyrava]

Tyypillinen huonosti määritelty optimointitehtävä, jossa tietyistä saavutuksista saa pisteitä ja toisista menettää. Sitten ihmetellään kun saadaan ratkaisuja joka ei ollut sellainen kun ohjelmoija halusi. Tällä ei varsinaisesti ole mitään tekemistä tekoälyn kanssa, paitsi että saadaan revittyä sensaatiomaisia otsikoita skynetistä ja kapinoivista roboteista.

Juu, enemmän tuo vaikuttaa vituiksi tehdyltä määrittelyltä kuin skynetiltä tai muulta koneiden kapinalta.

 

[rauttiz]

Tyypillinen huonosti määritelty optimointitehtävä, jossa tietyistä saavutuksista saa pisteitä ja toisista menettää. Sitten ihmetellään kun saadaan ratkaisuja joka ei ollut sellainen kun ohjelmoija halusi. Tällä ei varsinaisesti ole mitään tekemistä tekoälyn kanssa, paitsi että saadaan revittyä sensaatiomaisia otsikoita skynetistä ja kapinoivista roboteista.

Alignment problem on kuitenkin yksi suurista tekoälyn haasteista. Hyvä että näistä uutisoidaan, jotta ongelma tunnetaan laajemmin.

 

[B12]

Alignment problem on kuitenkin yksi suurista tekoälyn haasteista. Hyvä että näistä uutisoidaan, jotta ongelma tunnetaan laajemmin.

Se on ihan totta ja varmasti käydään vielä monet käräjät. Autonomisen auton esim päätettävä, ajaako lapsen päälle, vai väistääkö lasta rekan keulaan tai muuta ääriesimerkkiä. Sotatilanteissa varmasti tulee vielä vaikeampia päätöksiä, kuten tuo harjoituskin antoi ymmärtää. Saako uhrata pari omaa henkeä, jos pelastaa sillä sata?

 

[j1h2d]

Toihan on ihan sama homma kun tekoälylle annettais tehtävä kerätä hiiltä maapallolta.
Kun helposti kerättävä hiili ois kerätty, niin lopulta ihmisessäkin on hiiltä ‍

 

[RavenWolf]

Tänään oli muuten hesarin kuukausiliitteessä todella hyvä arttikkeli AI:sta:

Toimittaja Anu Nousiainen halusi ymmärtää, kuinka tekoäly toimii. Häntä opettivat professori ja tekoäly itse.

Kuukausiliite | Toimittaja haastatteli tekoälyä, kun se yhtäkkiä alkoi julistaa tuhoa – Edes tekoälyn parhaat asiantuntijat eivät enää ymmärrä, mitä on tapahtumassa

Toimittaja Anu Nousiainen halusi ymmärtää, kuinka tekoäly toimii. Häntä opettivat professori ja tekoäly itse.

www.hs.fi

Tiedetään, että GPT-4 on selvinnyt CAPTCHA-testistä. CAPTCHA-testin tarkoitus on varmistaa, että netin käyttäjä on ihminen eikä robotti.

Kun GPT-4 kohtasi CAPTCHA-testin, se otti yhteyttä keikka-alusta TaskRabbitin kautta oikeaan ihmiseen ja pyysi tätä tekemään testin puolestaan.

Se kertoi ihmiselle, ettei pysty tekemään tehtävää huonon näkönsä takia. Se siis valehteli.

 

[Johan_V]

Tänään oli muuten hesarin kuukausiliitteessä todella hyvä arttikkeli AI:sta:

Toimittaja Anu Nousiainen halusi ymmärtää, kuinka tekoäly toimii. Häntä opettivat professori ja tekoäly itse.

Kuukausiliite | Toimittaja haastatteli tekoälyä, kun se yhtäkkiä alkoi julistaa tuhoa – Edes tekoälyn parhaat asiantuntijat eivät enää ymmärrä, mitä on tapahtumassa

Toimittaja Anu Nousiainen halusi ymmärtää, kuinka tekoäly toimii. Häntä opettivat professori ja tekoäly itse.

www.hs.fi

Tiedetään, että GPT-4 on selvinnyt CAPTCHA-testistä. CAPTCHA-testin tarkoitus on varmistaa, että netin käyttäjä on ihminen eikä robotti.

Kun GPT-4 kohtasi CAPTCHA-testin, se otti yhteyttä keikka-alusta TaskRabbitin kautta oikeaan ihmiseen ja pyysi tätä tekemään testin puolestaan.

Se kertoi ihmiselle, ettei pysty tekemään tehtävää huonon näkönsä takia. Se siis valehteli.

Niin ja tämäkin on pääosin hypeä. Tutkijat nimenomaan pyysivät chapgpt:tä yhdistämään taskrabbittiin. Se ei tehnyt sitä itse. Yllättäen tämänkään "testin" yksityiskohtia ei löydy mistään, ainoa maininta on OpenAI:n hypeartikkelin bulletpointissa.

 

[Myrkky]

Euroopan suurin lehti aikoo korvata toimittajat tekoälyllä

Saksalaisen Bild-lehden kustantaja haluaa toimenpiteellä säästää henkilöstökuluissa ja panostaa digitaaliseen sisältöön.

www.iltalehti.fi

Saksan suosituimman sanomalehden Bildin kustantaja aikoo korvata toimittajansa tekoälyllä ja vähentää satoja työpaikkoja pyrkimyksenään kääntää suuntansa lukuisien skandaalien jälkeen.

En ole kyseistä läpyskää lukenut. Saahan nähdä jos samanlaista alkaisi tulla suomeenkin, niin minkälaisia uutisia sitä saisi lukea.

 

[namlepo]

Toivottavasti parempia kuin nykyään. Ja oikeinkirjoitettuna.

Euroopan suurin lehti aikoo korvata toimittajat tekoälyllä

Saksalaisen Bild-lehden kustantaja haluaa toimenpiteellä säästää henkilöstökuluissa ja panostaa digitaaliseen sisältöön.

www.iltalehti.fi

En ole kyseistä läpyskää lukenut. Saahan nähdä jos samanlaista alkaisi tulla suomeenkin, niin minkälaisia uutisia sitä saisi lukea.

 

[Myrkky]

Toivottavasti parempia kuin nykyään. Ja oikeinkirjoitettuna.

Varsinkin viihdeuutisia odottaessa. Eiköhän se tännekin rantaudu aikanaan.

 

[Tonnin Seteli]

Niin ja tämäkin on pääosin hypeä. Tutkijat nimenomaan pyysivät chapgpt:tä yhdistämään taskrabbittiin. Se ei tehnyt sitä itse. Yllättäen tämänkään "testin" yksityiskohtia ei löydy mistään, ainoa maininta on OpenAI:n hypeartikkelin bulletpointissa.

Joo, silkkaa hypetystä. Puhumattakaan siitä, että eihän se nyt mikään mullistava saavutus olisi vaikka olisi ilman eri käskyä pyytänyt apua. Eikä toisaalta ihmistestin suorittaminen algoritmilla ole sekään mikään uusi ainutkertainen juttu. Ainahan sitä on tapahtunut(tai siis suunnilleen yhtä kauan kun tuollaista menetelmää on käytetty) ja siksi niistä testeistä onkin tehty koko ajan vittumaisempia. Toki järjestelmiä väärinkäyttävät tahot ovat käyttäneet myös runsaasti hikipajatyövoimaa noiden tehtävien ratkomiseen(jopa kymmeniä tuhansia päivässä per ihmisbotti), mutta kai niitä nyt enimmäkseen algoritmisesti on hakattu jo pitkään.

En muihin saavutuksiin verrattuna mitenkään päin jaksa olla yllättynyt tai vaikuttunut siitä, jos moderni "chatbot"-tekoäly pystyy suorittamaan tuollaisia spämmin sun muun brute abusen estokysymyksiä. Tekee se sen sitten enemmän tai vähemmän itsenäisesti. Keinoja on monia.

 

[RavenWolf]

Disneyn Marvel Secret Invasionin opening credit videon on tehny AI. Sääli, etten nyt löydä mistään youtube linkkiä tähän. Varmaan Disney on ampunut kaikki ne videot alas sieltä.

 

[RavenWolf]

Valtaosa suomalaisista toivoo tekoälyn vapauttavan ihmiset tylsästä työstä, mutta moni pelkää teknologian karkaavan käsistä Kyselyyn vastanneista lähes kaksi kolmesta tunnustaa, ettei tiedä eikä ymmärrä, miten paljon tekoäly tulee muuttamaan heidän elämäänsä.

Valtaosa suomalaisista toivoo tekoälyn vapauttavan ihmiset tylsästä työstä, mutta moni pelkää teknologian karkaavan käsistä

Kyselyyn vastanneista lähes kaksi kolmesta tunnustaa, ettei tiedä eikä ymmärrä, miten paljon tekoäly tulee muuttamaan heidän elämäänsä.

yle.fi

 

[namlepo]

Se ainakin oli ihan surkee se secret invasion marvelin alku. Ihme, että tommosta on laitettu ees eetteriin. Painajaiskamaa suorastaan.

 

[RavenWolf]

OpenAI perustaa tiimin jonka tehtävä on ratkaista supertietoisuuden alignmentin:

Introducing Superalignment
Introducing Superalignment

We need scientific and technical breakthroughs to steer and control AI systems much smarter than us. To solve this problem within four years, we’re starting a new team, co-led by Ilya Sutskever and Jan Leike, and dedicating 20% of the compute we’ve secured to date to this effort. We’re looking for excellent ML researchers and engineers to join us.

Näkeekö he näköpiirissä jo AGIn?:

"While superintelligence seems far off now, we believe it could arrive this decade."

 

[Johan_V]

OpenAI perustaa tiimin jonka tehtävä on ratkaista supertietoisuuden alignmentin:

Introducing Superalignment
Introducing Superalignment

We need scientific and technical breakthroughs to steer and control AI systems much smarter than us. To solve this problem within four years, we’re starting a new team, co-led by Ilya Sutskever and Jan Leike, and dedicating 20% of the compute we’ve secured to date to this effort. We’re looking for excellent ML researchers and engineers to join us.

Näkeekö he näköpiirissä jo AGIn?:

"While superintelligence seems far off now, we believe it could arrive this decade."

Tuosta on ollut paljon keskustelua viimeaikoina, ja monien asiantuntijoiden mielestä tuo on harhautusliike jolla yritetään viedä huomiota nykyisistä ongelmista datakäytön ym. suhteen ja estää tekoälyfirmoihin kohdistuvaa sääntelyä. Eli yritetään ohjata keskustelu scifi-skenaarioihin ja esittää tekoäly jonkinlaisena entiteettinä joka kehittyy itsestään eikä suinkaan ole firmojen ohjelmoitavissa.

 

[antti-x]

Radiologeja harmittaa HUS:issa tulospalkkaus ja ottamatta kantaa siihen missä määrin kyseinen systeemi toimii tai ei toimi, niin tuli mieleen että radiologia eli lääketieteellinen kuvantaminen ja kuvien tulkinta on yksi sektori jolla voisi kuvitella tekoälyn pärjäävän aika hyvin kunhan sille syötetään tarpeeksi dataa pohjalle. Tekoäly voisi myös reaaliajassa ohjata kuvantamista ja pyytää lisädataa jo kuvantamisprosessin aikana sen sijaan että lääkäri tuntien päästä totetaa että tarvitaan lisää kuvia. Tässä puhutaan kuitenkin kalliista piuhan päässä olevasta toiminnasta jolle voidaan antaa laskentatehoa aika rajusti ilman että maksaisi samaa kuin radiologin palkka.

 

[spengele]

Alkanut tulla netissä vastaan mainoksia, joissa tarjotaan mahdollisuutta tienata rahaa generoimalla "stock" kuvia AI:lla.

Tässä on vähän nähtävillä sellainen ilmiö, että AI:n tehokas käyttö esim. juuri kuvien luomisessa ei ole ainakaan vielä niin helppoa, että jokainen pystyisi generoimaan mitä näyttävämpiä kuvia erilaisiin tarkoituksiin. Sen promptin kirjoittaminen siten, että lopputulos on tuotantokelpoinen, ei ole mikään ihan yksinkertainen tehtävä. Varsinkin jos on tarkoitus luoda digitaalista grafiikkaa hyvin laajalla skaalalla ja useista genreistä ja lopputuloksen laadulla on oikeasti merkitystä.

Laadukkaan kuvan generointi vaatii laadukkaan promptin ja myös sellaisen luominen vaatii tietynlaista luovuutta ja kompetenssia. On tosin mahdollista käyttää erilaisia tekoälyjä ristiin ja laittaa esim. chatgpt luomaan sen tekstimuotoisen promptin, joka syötetään toiselle tekoälylle, mutta sitten ollaan jo kohta siinä tilanteessa, että taitava graafinen suunnittelija luo sen kuvan siinä samassa ajassa kuin toinen on valjastanut tekoälyn luomaan vastaavan tasoisen kuvan. Graafikon etuna voi olla se, että hänellä on paremmat mahdollisuudet jatkojalostaa kuvaa, kun hänellä on kaikki "layerit" ja muu sovellukseen tallennettu polku, mutta tekoälyä käyttäneellä on vain se kuvatiedosto (esim. jpg), joka hyvin todennäköisesti vaatii vielä jatkojalostusta. Mitä itse olen leikkinyt, niin ei sieltä nyt ihan helpolla saa juuri sellaista kuvaa ulos, mitä haluaisin ja voisin saada aikaan muutamalla muulla sovelluksella "manuaalisesti". Lisäksi itse tekemällä minulla tosiaan olisi usein paremmat mahdollisuuden hienosäätöön ja laajemmat muokkausmahdollisuudet.

Kuvankäsittelyohjelmien plugineihin pitäisi tutustua lisää. Ne tuntuvat varsin hyödyllisiltä apuvälineiltä.

 

[finWeazel]

C++/muu koodaustyö voi vähentyä ja tilalle tulee neuroverkkojen opettamista ja säätämistä. Jännä nähdä miten teslan autoa ajavan kontrollipinon muuttaminen neuroverkoksi etenee.

Tesla CEO Elon Musk talks about the 'final piece' of solving Full Self-Driving

Tesla CEO Elon Musk talked about the "final piece" of solving the company's Full Self-Driving suite: vehicle control.

www.teslarati.com