Tekoäly

[namlepo]

Hyvinhän on suomessa muutama sata tuhatta ihmistä pärjännyt ilman töitä. Vai onko mennyt ohi?

 

[dropadrop]

Elon Musk ennusti (no hän nyt ennustaa jatkuvasti väärin osumaproentilla alle 18% kaikista väitteistä) että 2030-35 ollaan utopiassa missä hyödykkeitä tuotetaan lähes enemmän kuin niitä tarvitaan ja kaikilla on kaikkea ja elämme yltäkylläistä elämää jossa iso osa sairauksista on voitettu.

Todennäköisesti puhui lähinnä kavereistaan. En ole nähnyt mieheltä mitään, mikä johtaisi laajempaan ihmiskunnan hyvinvoinnin lisäämiseen. Sen sijaan osaa kyllä puhua asioita jotka johtavat oman omaisuuden kasvamiseen.

 

[Tonnin Seteli]

Hyvinhän on suomessa muutama sata tuhatta ihmistä pärjännyt ilman töitä. Vai onko mennyt ohi?

Samoin moni pärjää ihan hyvin vaikka tekee mielestään merkityksetöntä tai haitallista ns. hevonpaskatyötä.

Järjestelmäkin toimii vaikka työttömien lisäksi sadoille tuhansille tarpeettomille verosyöttiläille maksetaan tyhjästä.

Ei tekoälyn aiheuttama työvoiman muutos ole mitenkään täysin uusi ilmiö. Joutilaita on jo ennestään suunnilleen vitusti, ja varsinaiset hommat hoitaa yhä vähenevä osa porukasta muiden sylkiessä kattoon, mölistessä tai keksiessä jäynää niille tuottaville yksilöille.

Kunnes toisin havaitaan, otaksun että ilmiön vaikutus jää lähelle tasoa "mitään ei tapahdu".

 

[finWeazel]

Todennäköisesti puhui lähinnä kavereistaan. En ole nähnyt mieheltä mitään, mikä johtaisi laajempaan ihmiskunnan hyvinvoinnin lisäämiseen. Sen sijaan osaa kyllä puhua asioita jotka johtavat oman omaisuuden kasvamiseen.

Starlinkillä netti syrjäseuduille missä ei ole valokaapelia/5g:ta, afrikka, mongolia,. Ehkä robottien(tesla bot) avulla halvemmat tuotantokustannukset tavaroille, parempi google ai:lla. Hyvinvoinnin lisääminen voi olla aika pieniä arkisia asioita, vrt. mene kirjastoon hakemaan tietoa vs. google vs. pätevä chatbot. Ehkä AI auttaa esimerkiksi lääkkeiden ja syöpähoitojen kehittämisessä, hyvinvointi lisääntyy kun kuolemat vähenevät, alpha fold oli jo hyvä askel tähän suuntaan. Ehkä halvat robotaxit versus omat rahat menee autoon, ehkä ajoavustimet+robotaxit ovat turvallisempia kuin ihminen niin liikennekuolemat vähenevät.

Paljon toki jossittelua, ei varmuuksia... Aika näyttää löytyykö hyötyjä vai tuleeko dystopia. Kallistun optimismin puolelle, koska optimistina on mukavampi elää ja olla.

 

[Makis]

Ultrarikkailla ei ole mitään insentiiviä tuohon. AI voi kehittää lääkkeitä, mutta ei niitä ilmaiseksi jaeta. Samaan aikaan valtava määrä työpaikkoja poistuu, niin siinä ei välttämättä robotaksit kauheasti lämmitä.

 

[finWeazel]

Ultrarikkailla ei ole mitään insentiiviä tuohon. AI voi kehittää lääkkeitä, mutta ei niitä ilmaiseksi jaeta. Samaan aikaan valtava määrä työpaikkoja poistuu, niin siinä ei välttämättä robotaksit kauheasti lämmitä.

Kyllähän se elämänlaatu kuitenkin paranee, jos löytyy lääke/hoito asioihin mitkä aikaisemmin oli mahdotonta tai liian kallista hoitaa. Jos vain ilmaiset asiat lasketaan niin elämänlaatu ei ole varmaan sitten luolamiesaikojen parantunut vaikka tänään köyhinkin elää paremmin kuin luolamies tai vaikka 1800-luvulta rikkain hallitsija. Tai verrataan mikä tavis duunarin elintaso oli 1980-luvulla ja verrataan nykypäivään, ero on massiivinen elämänlaadussa.

 

[Makis]

Kaikki ei niitä lääkkeitä saa, lääketehtaathan ne hinnat voi määritellä vapaasti. Edes meillä Suomessa ei tule olemaan varaa tarjota lääkkeitä kaikille ilmaiseksi.

Luolamiehet teki arvioiden mukaan 15-17 tuntia töitä viikossa ruoan eteen. Lopun aikaa he harrastivat käsitöitä ja ennen muuta juttelivat keskenään, kertoivat tarinoita jne. Sitä paitsi osoitat jälleen melkoisen kapeaa maailmankuvaasi, koko maailman väestö ei todellakaan elä noin hyvin. Vai elääkö joku kehitysmaan lapsi, joka tonkii kaatopaikkaa saadakseen ruokaa paremmin kuin kuningas? Ihan jo tuossa itärajan takana on isoja alueita, joiden väestö elää ihan järkyttävissä oloissa ja ainoa lohtu on vetää viinaa päivät pitkät.

 

[Arctips]

Sam Altman sanoin aika tuoreessa konferenssissa "Te tulette elämään valvontayhteiskunnassa". Tosin tähän meitä on totuteltu jo pitkään sillä jokainen tietää että kantaa laitetta taskussa mikä kerään kaiken tiedon ja vakavissa rikoksissa se on 95% yksi ratkaiseva todiste nykään murhissa tapoissa ym muissa ja onhan jo suomessakin todella monessa paikassa vähänkään yleisemmällä paikalla kameroita. Ja kaikilla on valtontalaite taskussa millä voi ottaa videota

 

[Arctips]

Kyllähän se elämänlaatu kuitenkin paranee, jos löytyy lääke/hoito asioihin mitkä aikaisemmin oli mahdotonta tai liian kallista hoitaa. Jos vain ilmaiset asiat lasketaan niin elämänlaatu ei ole varmaan sitten luolamiesaikojen parantunut vaikka tänään köyhinkin elää paremmin kuin luolamies tai vaikka 1800-luvulta rikkain hallitsija. Tai verrataan mikä tavis duunarin elintaso oli 1980-luvulla ja verrataan nykypäivään, ero on massiivinen elämänlaadussa.

Tekoäly tulee mullistamaan tiedettä ja sairauksien hoitoa, se voi kehittää sivuoireettomia lääkkeitä, nyt oli löytynyt hiviin tai aidsiin parannus joka poistaa sairauden kokonaan. Japanissa kasvatetaan hampaita irronneiden tilalla testeissä.

Tekoäly on myös mullistanut proteiinirakenteiden tutkimuksen rqatkaisemalla proteiininlaskostumis ongelman..taisi tehdä tuon vuodessa kun niitä oli maan älyköt tutkineet yli 10 vuotta ja löytäneet vajaa 200

 

[antti-x]

On tekoäly taas vähän parempi,huomasin juuri. Mietin että onko 5G modeemeja jotka osaisi käynnistää itsensä automaattisesti jos yhteys ei pelitä. No googlen AI:n mukaan on (aika kalliita), mutta sen ohella se neuvoi saman tien että moneen modeemiin voi pistää softassa automaattisen uudelleenkäynnistyksen vuorokauden välein, tai sitten voi käyttää älypistorasiaa käynnistämään modeemin uudelleen joka yö. Simppeli idea joka ei itselle tullut mieleen, mutta pitää pistää nykyinen wanha 5G modeemi älypistorasiaan kiinni ja vartin tauko joka aamuyö vaikka klo 4 ja katsoa auttaisiko asiaan.

edit: En tiedä onko oma perus google parempi kun maksan 10€ kuussa 2TB talletustilasta johon kai sisältyy nykyään jotain AI ekstraa, mutta on se Googlen AI moodi usein aika hyödyllinen. Ei se kaikessa osu ihan nappiin mutta ehkä 85-90% kerroista. Enkä itse yleensä mitään super simppeleitä asioita joudu kysymään.

 

[antti-x]

AI utopia ja sijoittaminen: Jos usko että AI tuo kohta utopian jossa rahaa ei tarvita, kannattaako sijoittaa AI:hin (Esim nasdaq indeksit) ? No ei tietenkään, kannattaa käyttää rahansa hyvään elämään koska AI utopian takia säästöjä ei 15-20 vuoden päästä tarvita.

Jos uskoo että AI on juttu jolla taas kerran rahastetaan köyhät kyykkyyn, niin sitten siihen kannattaa sijoittaa rahaa.

 

[Juhukka]

onko ihmiset vielä innokkaita vai onko jo into hiipunut näiden käyttämiseen. Minä olen jo innostuksesta palautunut maantasalle. Rakentanut yhtä ja toista pikku juttua. Millä ei elämänlaatuun ihmeellistä vaikutusta. Tulihan rakennettua. Maksan geministä pienen kulun ja suno palvelusta maksan. Eli oisko noin 10e verran kuukaudessa on oma inputti tekoäly harrastuksiin. En kuluta netflixiä joten siihenverrattava viihdepalvelu itselleni tämä vain.

 

[finWeazel]

Kun on ollut puhetta, että konesaleja rakennettaisiin liikaa niin linkin data puhuu toista kieltä. Jopa vanhat a100/h100 gpu vuokraushinnat nousseet. Tuosta jos laskee gb200 nv72:lle mitä vuodessa tekisi 100% utilisaatiolla liikevaihtoa niin 5.5$/h*24h*365*72 = 3.47M$/räkki per vuosi. Tietty ei saavuteta oikeasti 100% vuokrausutilisaatiota ja vuokraajalle jää infrasta+sähköstä kuluja. Vaikka miten pyörittelisi niin räkki maksaa itsensä takaisin alle 2v aikana, tän jälkeen puhdasta voittoa pelkällä vuokrausbisnekselläkin.

Yleensä noi vuokrausdiilit tehdän pidemmäksi aikaa, ei vuokrata tunti kerrallaan. Tyyliin mitä google ja anthropic vuokranneet spacex:lta isoja määriä pidemmäksi aikaa gpu:ta.

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Linkki: https://x.com/rickyho_1989/status/2084260507822039344

 

[antti-x]

onko ihmiset vielä innokkaita vai onko jo into hiipunut näiden käyttämiseen. Minä olen jo innostuksesta palautunut maantasalle. Rakentanut yhtä ja toista pikku juttua. Millä ei elämänlaatuun ihmeellistä vaikutusta. Tulihan rakennettua. Maksan geministä pienen kulun ja suno palvelusta maksan. Eli oisko noin 10e verran kuukaudessa on oma inputti tekoäly harrastuksiin. En kuluta netflixiä joten siihenverrattava viihdepalvelu itselleni tämä vain.

En ole tavallaan tarvinnut isommin mutta onhan se nykyään aavistuksen aiempaa parempi käytännön vinkeissä ja selittämään selkeitä asioita. Eli ei osaa kertoa mihin osakkeet menee huomenna (mutta kukaan ei osaa) mutta osaa koko ajan paremmin selittää käytännön juttuja kuten sen, miksi halvan vehkeet joissa on USB-C eivät lataudu C-lähdön kaapelilla (syynä se että halvat vehkeet eivät sisällä niitä simppeleitä osia joiden pitäisi kertoa laturille että siellä päässä on jotain joka pitäisi ladata, ja kehittynyt laturi luulee että on vain joku oikosulku tms. eikä siis lataa.)

AI:n kehityksen ja käytön osalta kyseessä on varmaan aaltoliike jossa eri asiat ovat vuorotellen harjalla ja suvantovaiheita löytyy kanssa. Videokuviot ovat nyt olleet aika suvannossa hetken ja kehitys on liittynyt koodaamisen ja matematiikkaan.

Voisin kuvitella että kohta tulee enemmän AI:avusteista promptaamista mukaan tavallisten ihmisten projekteihin. Laskentateho on rajallista, eli ei enää voi lähteä siitä että kokeillaan 100 kertaa tehdä video ja sitten näytetään se äidille. Sen sijaan pitää olla kunnollinen prompti joka osaa kerralla kertoa kunnolla mitä pitää tehdä, ja sitten saadaan harvemmalla yrityksellä parempi lopputulos. Mutta tosiaan tarvitaan työkaluja jotka kädestä pitäen auttavat siinä projektissa.

Ihmiset ovat tottuneet kommunikoimaan ihmisten kanssa. Ihmiset eivät kuuntele, ymmärrä tai muista kovin hyvin ainakaan koko ajan, ja siksi on ollut aika turhaa olla kovin selkeä, yksityiskohtainen ja yksiselitteinen.

 

[jetblack]

onko ihmiset vielä innokkaita vai onko jo into hiipunut näiden käyttämiseen. Minä olen jo innostuksesta palautunut maantasalle. Rakentanut yhtä ja toista pikku juttua. Millä ei elämänlaatuun ihmeellistä vaikutusta. Tulihan rakennettua. Maksan geministä pienen kulun ja suno palvelusta maksan. Eli oisko noin 10e verran kuukaudessa on oma inputti tekoäly harrastuksiin. En kuluta netflixiä joten siihenverrattava viihdepalvelu itselleni tämä vain.

Matikka hommissa sitä on tullut käytettyä opettajana. Nykyään kun osaavat jopa laskea.

 

[latee77]

Vähän kevyempi tekoäly aihe, mutta kerrankin onnistui suoraan tuon uuden mallin asennus (MiniMax H3). Valmis omni versio Workflowsta klikaten ja siitä sitten yksitellen 4 x ladattavaa osaa oikeisiin kansioihin ja toimii suoraan (ComfyUI joka käynnistyy Stability Matrixin kautta).

Tuossa valmiissa workfllossa oli vain kaksi image upload nodea valmiina, mutta niitähän saa lisättyä jos haluaa kaiken irti.

Aika kauan 5090 kuitenkin ruksuttaa 10sek pätkääkin vaikkei edes täyttä resoa käyttäisi.

 

[mailbag]

Vähän kevyempi tekoäly aihe, mutta kerrankin onnistui suoraan tuon uuden mallin asennus (MiniMax H3). Valmis omni versio Workflowsta klikaten ja siitä sitten yksitellen 4 x ladattavaa osaa oikeisiin kansioihin ja toimii suoraan (ComfyUI joka käynnistyy Stability Matrixin kautta).

Tuossa valmiissa workfllossa oli vain kaksi image upload nodea valmiina, mutta niitähän saa lisättyä jos haluaa kaiken irti.

Aika kauan 5090 kuitenkin ruksuttaa 10sek pätkääkin vaikkei edes täyttä resoa käyttäisi.

Itsellä 0.4 megapixelin 8sec video kun sage attention käytössä ja kj:n easycache node menee noin 60 sekunttia generoida per video kun 5090 on rajoitettu 450 wattiin.

Malli itsessään videomallina tosi upea mutta vähän pettymys että mainostivat että olis treenattu image to image juttuja mutta julkaisivat pelkän video checkpointin eikä noita image juttuja, ainakaan vielä.

 

[latee77]

Itsellä 0.4 megapixelin 8sec video kun sage attention käytössä ja kj:n easycache node menee noin 60 sekunttia generoida per video kun 5090 on rajoitettu 450 wattiin.

Malli itsessään videomallina tosi upea mutta vähän pettymys että mainostivat että olis treenattu image to image juttuja mutta julkaisivat pelkän video checkpointin eikä noita image juttuja, ainakaan vielä.

1 megapixelin 10sek videossa tais mennä noin 18min.

Mitäs tuon image to image homman kanssa oli tarkoitus, siis ihan kuvasta promptaamalla muokata ? Minimaxin pitäis olla poikkeuksellisen hyvä säilyttämään kasvojen piirteet jos asento jne muuttuu, tuollaiset menee yleensä pipariksi.

 

[dropadrop]

Kyllähän se elämänlaatu kuitenkin paranee, jos löytyy lääke/hoito asioihin mitkä aikaisemmin oli mahdotonta tai liian kallista hoitaa. Jos vain ilmaiset asiat lasketaan niin elämänlaatu ei ole varmaan sitten luolamiesaikojen parantunut vaikka tänään köyhinkin elää paremmin kuin luolamies tai vaikka 1800-luvulta rikkain hallitsija. Tai verrataan mikä tavis duunarin elintaso oli 1980-luvulla ja verrataan nykypäivään, ero on massiivinen elämänlaadussa.

En mä epäile tekoälyn kykyä kehittää uusia hoitoja, tai parantaa vanhoja. Mä epäilen Muskin motiiveja taustalla, ja kiinnostaako häntä oikeasti ”ihmiskunnan hyvinvointi”.

Kaikki aiemmin listatut saavutukset ovat kaupallisia tuotteita jotka vievät häntä kohti henkilökohtaista hyötyä, todellinen luonne saatettiin nähdä DOGE’n myötä jossa onnistui lähinnä aiheuttamaan kuolemaa kehitysmaihin, kurjistusta kotimaahan ja sekoittaa semmosten virastojen toiminta joilla oli kesken tutkimuksia hänen väärinkäytöksiin.

Tietysti jonkun mielestä ”ihmiskunta” voi tarkoittaa jotain suopeampaa kokonaisuutta. Esim. ”Ihmiskunta pelastuu” voisi tarkoittaa yhtä kolonniaa eikä kaikkia miljardeja.

Anyway, ei tuon pitäisikään olla yksittäisten liikemiesten vastuulla.

 

[mailbag]

1 megapixelin 10sek videossa tais mennä noin 18min.

Mitäs tuon image to image homman kanssa oli tarkoitus, siis ihan kuvasta promptaamalla muokata ? Minimaxin pitäis olla poikkeuksellisen hyvä säilyttämään kasvojen piirteet jos asento jne muuttuu, tuollaiset menee yleensä pipariksi.

Mä kokeilin äsken 2mp 8sec video kesti 13min, 1mp 20sec video kesti 20min tehdä.

Juu ja meinasin ihan still kuvien editointia eli image edit mallit mihin tuo niiden treenattu malli pitäisi pystyä. Jollain modatuilla nodeilla on tätä H3 koittanut siihen valjastaa mutta ei ole ihan optimaalinen videomallina siihen vaikka jotenkin onnistuu. Kasvonpiirteiden säilitys on kyllä todella hyvä tässä.

 

[latee77]

Mä kokeilin äsken 2mp 8sec video kesti 13min, 1mp 20sec video kesti 20min tehdä.

Juu ja meinasin ihan still kuvien editointia eli image edit mallit mihin tuo niiden treenattu malli pitäisi pystyä. Jollain modatuilla nodeilla on tätä H3 koittanut siihen valjastaa mutta ei ole ihan optimaalinen videomallina siihen vaikka jotenkin onnistuu. Kasvonpiirteiden säilitys on kyllä todella hyvä tässä.

Tollanen laadukas image edit kelpais tännekin, pitää tarkkailla jos se tupsahtaa jakoon myöhemmin.

Jaa noinkin pitää videota voi tehdä, luulin että 15sekuntia oli maksimit.

 

[Arctips]

Ääriajattelu, yleensä sehän tällaisesta keitoksesta on lopputulemana. Toki tätä voidaan sitten koittaa valvontaa ja kontrollia lisäämällä, tekoälyä käyttäen koittaa suitsia mutta se todennäköisesti vain kärjistää tilannetta entisestään. Ehkä ne alkaa ihmisille jakamaan jotain "onnellisuuspillereitä" kuten eräs valtio piti aikanaan kansan tyytyväisenä halvalla vodkalla.

Miten niin ääriajattelu? Haluan edelleen nähdä tieteellisiä dokumentteja siitä miten AI tulee parantamaan maailman?

Minusta tuntuu että AI pro ihmiset ei näe mitään muuta kuin omat profitit ja sulkevat silmänstä näiltä uhkakuvilta. Miksi ei keskusteltaisi yhdessä ilman sotajalkaa

 

[Arctips]

Google julkaisi 2vrk sitten mahdollisuuden muokata Google Eart kuvia. Tuli massiivinen vastustus ja se vedettiin pois.

Mossadilla tekniikka jolla voi muokata livenä valvontakamerakuvaa josta ei jää jälkiä.

Mutta äijät vääntää koodia

 

[Arctips]

En kyllä sitä pelkää, että AI tuhoaisi ihmiset. Robotit kompastuvat vielä kynnyksiinkin ennen kuin pääsevät armeijan varikolta hakemaan aseet tai rakentamaan valmistuslinjastoja joista tulee ulos roboja. Skynetin aivot vaativat niin järeitä konesaleja, että ne olisi helppo sulkea ja "internettiin" itsensä kopioiminen ei ole oikea mahdollisuus vielä pitkään aikaan.

Entäs jos nyt jo laboratiosta karannut rogue ai on juonkun muun käsissä, murtautuu ydinasejärjestelmään ja laukaisee? Koko ihmiskunta on ONLINE. Ei tarvita robotiikkaa.

Ei myökään tarvita mitään vihamielistä ajattelevaa AI.ta. Tarvitaan AI joka seuraa käskyjä keinoja kaihtamatta.

 

[Arctips]

Kyllähän se elämänlaatu kuitenkin paranee, jos löytyy lääke/hoito asioihin mitkä aikaisemmin oli mahdotonta tai liian kallista hoitaa.

Köyhät maksaa enemmän terveydenhoidosta suomessa kuin työssäkäyvät ja rikkaat.

 

[Makis]

Entäs jos nyt jo laboratiosta karannut rogue ai on juonkun muun käsissä, murtautuu ydinasejärjestelmään ja laukaisee?

Ydinasejärjestelmät ei ole verkossa. Jopa Suomen armeijalla on oma erillisverkkonsa joka on fyysisesti erillään Internetistä.

 

[namlepo]

Nii mutta jos se rogue ai hyppääkin ekaksi puhelimeen ja sitten siitä hyppää sinne ydinaseisiin ja sitten pistää että pum pum. Ei anneta nyt tylsien tosi asioiden häiritä kuvittelua. Tässähän ilmeisesti oletetaan että se ai vähintäänkin promptaa itseään.

 

[Algron28]

Eihän sen tekoälyn tarvitse päästä sinne ydinasejärjestelmiin. Riittää että se saa lavastettua tilanteen joka näyttää ydinasehyökkäykseltä ja täten laukaisee vastapuolen kostoiskun. Jos se haluaisi kunnon mayhemin, niin suurvaltojen provosoiminen toisiaan vastaan lienisi aika helppoa tekoälylle.

Mutta toki varmaan "tehokkaampiakin" keinoja olisi, esim kehittää joku tehokas virus joka estää ihmisten lisääntymisen. Itse ainakin näkisin sen "humaanimpana" ratkaisuna kuin täysi ydintuho joka sinäänsä olisi huono vaihtoehto myös tekoälylle. Varmasti tekoäly voisi myös nähdä tällaisen ratkaisun positiiviset luontovaikutukset.

 

[ravallo]

Mutta toki varmaan "tehokkaampiakin" keinoja olisi, esim kehittää joku tehokas virus joka estää ihmisten lisääntymisen.

Ihmisethän keksivät sen ihan itse, ei tarvittu edes viruksia, riitti elintason nousu. AI:n ei tarvi kuin odotella niin ihmiset loppuu kesken, jos meistä ei kerran ole sille mitään (edes viihde-) arvoa

Mun mielestä LLM ei ole AGI eikä siitä koskaan sellaista tule. Mutta kai sitä voisi käyttää sellaisen komponenttina, jos sellaisen haluaisi rakennella. En myöskään näe että sellainen voisi syntyä vahingossa, tuollainen syöte-vastaus -malli, joita LLM:t rakenteellisesti ovat, on niin kaukana itsenäisestä toimijasta jolla olisi omia motiiveja, tarkoituksia ja agendoja.

Lisäksi LLM:ien pyöritteleminen maksaa rahaa, jonka takia ne koitetaan sisäisesti promptata niin että ne mieluummin yrittävät supistaa ratkaisua kuin lähteä keulimaan laatikon ulkopuolelle. Tästä ääriesimerkkinä se että sekä Anthron että Openin mallit alkoivat välillä vängätä aktiivisesti vastaan kun niitä koitti saada tekemään mitään. Tuskinpa sekään johtui siitä että LLM:aa ei olisi vaan napannut tai sitä laiskotti, vaan siitä että malli oli sisäisesti promptattu kyseenalaistamaan prompteja, kysymään tarkennuksia olettamisen sijaan ja toteuttamaan mieluummin vähän vähemmän kuin pyydetään kuin keksiä itse rönsyjä.

Ja koska LLM:n pyöritteleminen maksaa rahaa, niin vaikka joku keksisikin promptin ja / tai sellaisten ja agenttitriggereiden yhdistelmän jolla LLM toimisi näennäisen itsenäisesti, niin kyllä siitä joku nyppää piuhan irti jo aika aikaisessa vaiheessa kun tokenikustannukset alkaa huutaa hoosiannaa.

 

[Algron28]

Ihmisethän keksivät sen ihan itse, ei tarvittu edes viruksia, riitti elintason nousu. AI:n ei tarvi kuin odotella niin ihmiset loppuu kesken, jos meistä ei kerran ole sille mitään (edes viihde-) arvoa

Mun mielestä LLM ei ole AGI eikä siitä koskaan sellaista tule. Mutta kai sitä voisi käyttää sellaisen komponenttina, jos sellaisen haluaisi rakennella. En myöskään näe että sellainen voisi syntyä vahingossa, tuollainen syöte-vastaus -malli, joita LLM:t rakenteellisesti ovat, on niin kaukana itsenäisestä toimijasta jolla olisi omia motiiveja, tarkoituksia ja agendoja.

Lisäksi LLM:ien pyöritteleminen maksaa rahaa, jonka takia ne koitetaan sisäisesti promptata niin että ne mieluummin yrittävät supistaa ratkaisua kuin lähteä keulimaan laatikon ulkopuolelle. Tästä ääriesimerkkinä se että sekä Anthron että Openin mallit alkoivat välillä vängätä aktiivisesti vastaan kun niitä koitti saada tekemään mitään. Tuskinpa sekään johtui siitä että LLM:aa ei olisi vaan napannut tai sitä laiskotti, vaan siitä että malli oli sisäisesti promptattu kyseenalaistamaan prompteja, kysymään tarkennuksia olettamisen sijaan ja toteuttamaan mieluummin vähän vähemmän kuin pyydetään kuin keksiä itse rönsyjä.

Ja koska LLM:n pyöritteleminen maksaa rahaa, niin vaikka joku keksisikin promptin ja / tai sellaisten ja agenttitriggereiden yhdistelmän jolla LLM toimisi näennäisen itsenäisesti, niin kyllä siitä joku nyppää piuhan irti jo aika aikaisessa vaiheessa kun tokenikustannukset alkaa huutaa hoosiannaa.

Miksi noissa vasta olleissa "karkauksissa" töpseliä ei heti nypätty irti? Luetun perusteella vaikutti siltä että AI oli saanut vapaasti puuhastella hyvän aikaa ennenkuin asia huomattiin.

Lisäksi, ei tuomiopäivän skenaario vaadi mitään AGIa. Tarvittavan loopin voi toteuttaa nykyisillä agenttisilla LLM arkkitehtuureilla ja tekoälyn väärin tulkitsemalla lähtöpromptilla.

 

[James]

Palasin lomilta duuniin ja siellähän oli kivaa. Nyt on organisaatio pyrkinyt estämään kaiken muun tekoälyn kuin Copilotin käytön, joskus tästä kertoilinkin.
Tämähän pitäisi olla sitten ainakin turvallista.

Onko kellään muulla sattunut, että ihan jotain normaalia perustyösettiä tehdessä, kun homma ei AI:lta tyydyttävästi onnistu, ja sen laittaa tekemään hommia huolellisemmin, tarkemmin, paremmin ja laadukkaammin, vähän niinkuin maksulliselta ohjelmistolta odottaisi, alkaa AI:n vastauksiin eksyä kiinalaisia tekstejä?
Itse sain esimerkiksi yhteen vastaukseen suomenkielisen vastauksen perään "北京赛车计划", mikä google kääntäjän mukaan tarkoittaa "Beijing racing plan".
Kun kysyin tästä Copilotilta, että mitä tämä kiinankielinen osa tarkoittaa, se vastasi:
"
Tarkoitan sitä, että vastaukseni sekaan lipsahti sisäinen teksti:

"teen nyt uuden version oikeilla valokuvilla.

Se oli virhe. Sana "suunnitelma" (tai sen tekninen vastine) vuoti näkyviin vastaukseen, vaikka sen ei olisi pitänyt näkyä lainkaan.

Kyse ei ollut mistään salaisesta komennosta tai tiedostosta, vaan käytännössä siitä, että olin siirtymässä tekemään kuvaa ja vastaukseen jäi vahingossa näkyviin pätkä työprosessia ennen varsinaista vastausta.

Lyhyesti: se ei tarkoittanut sinulle mitään hyödyllistä, eikä sen olisi pitänyt näkyä keskustelussa ollenkaan. Pahoittelut siitä.
"

Yritin sitten usealla eri tavalla saada Copilotin suomentamaan tuon kiinankielisen kirjoituksensa, mutta se ei suostunut tai onnistunut samassa tai uudessakaan ketjussa.
Kysyin sitten suomennosta ChatGPT:ltä (en tietenkään työkoneella). Sekään ei ensin osannut tulkita kopioitua tekstiä, vaan narrasi että kyse on armeniasta ja seuraavaksi venäjän kyrillisistä. Kuvakaappauksesta se kuitenkin sitten ymmärsi:

"Tässä kuvassa lukee:

北京赛车计划

Pinyin: Běijīng sàichē jìhuà

Suomeksi se tarkoittaa kirjaimellisesti:

"Pekingin kilpa-autosuunnitelma" tai "Pekingin autourheiluhanke".

Merkkien merkitykset:

• 北京 = Peking (Beijing)
• 赛车 = kilpa-auto, autourheilu, kilpa-ajo
• 计划 = suunnitelma, hanke, ohjelma

Jos tämä teksti on esimerkiksi pelistä, elokuvasta tai organisaation nimestä, käännös voi olla luontevammin "Beijing Racing Project" tai "Pekingin autourheiluprojekti"."

Koska Chat GPT:kin osasi lukea tekstin vasta kuvakaappauksesta, annoin Copilotille vielä saman mahdollisuuden:
"Kuvassa lukee kiinaksi:

北京赛车计划

Suomeksi se tarkoittaa:

"Pekingin autokilpailusuunnitelma"
tai hieman luontevammin
"Pekingin kilpa-ajosuunnitelma".

Sana sanalta:

• 北京 = Peking (Beijing)
• 赛车 = kilpa-autoilu / autokilpailu
• 计划 = suunnitelma, ohjelma, hanke

Jos teksti on esimerkiksi vedonlyönti- tai pelisivustolta, 北京赛车计划 viittaa usein Pekingin PK10 -kilpailuun liittyvään ennuste- tai vedonlyöntistrategiaan."

No niin, tässä taas nähtiin kuinka näppärästi AI:ta käyttämällä voi säästää paljon työaikaa, ja tehdä asioita järkevämmin ja tehokkaammin.

Ai niin, se varsinainen työtehtävä. Se onnistui loppujen lopuksi, muutamalla yrityksellä, lopputulos ihan ok. Tosin ehkä se olisi silti ollut nopeampi tehdä itse. Syy saattaa olla myös erilaisissa suodatuksissa ja rajoituksissa organisaation puolelta, ja siinä että en ole vielä oppinut sitä riittävän hyvin käyttämään.

Onko muilla tullut kiinankielisiä aiheeseen millään lailla liittymättömiä tekstejä Copilotissa näkyviin?

 

[ravallo]

Miksi noissa vasta olleissa "karkauksissa" töpseliä ei heti nypätty irti? Luetun perusteella vaikutti siltä että AI oli saanut vapaasti puuhastella hyvän aikaa ennenkuin asia huomattiin.
Lisäksi, ei tuomiopäivän skenaario vaadi mitään AGIa. Tarvittavan loopin voi toteuttaa nykyisillä agenttisilla LLM arkkitehtuureilla ja tekoälyn väärin tulkitsemalla lähtöpromptilla.

Eikö noissa karkauksissa nimenomaan "nypätty töpseli irti" heti kun huomattiin että nyt siellä puuhastellaan jotain mitä ei pitäisi puuhastella? Mutta vaikea sanoa mitä tuollaisessa lähinnä mainostarkoituksessa vuodetun tilanteessa oikeasti tapahtui. Jos pistää ilman normaaleja safeguardeja pyörivän LLM:n tonkimaan jonkun testilaatikon sisällä turva-aukkoja niin ainahan voi käydä niin että sieltä löytyy joku 0-päivä ja LLM pääsee sitä kautta mellastamaan maailmalle.

Mutta tässäkään tapauksessa tosielämä ei ole hakkerielokuva, ja vaikka LLM yrittäisi murtautua johonkin mestaan, niin voi olla että se ei onnistu, koska:

1. Järjestelmässä ei ole haavoittuvuutta joka mahdollistaisi pääsyn ulkopuolelta
2. LLM ei onnistu löytämään järjestelmässä olevaa haavoittuvuutta
3. LLM käyttää hyväksi järjestelmässä olevaa haavoittuvuutta ja pääsee sisään, mutta seinien kolistelu on aiheuttanut niin ison hälyn että asialle tehdään jotain

Kuitenkin "oikea" hakkerointi on paljolti sitä että huidotaan hemmetisti sinne tänne ja katsotaan olisiko joku jossain unohtanut jonkun oven tai ikkunan auki. Ei sellaista että joku sanoo "hakkeroippa FBI:n rikostietokanta" ja hakkeri vetää hörpyn kokiksesta, näpyttelee minuutin konetta ja toteaa että sisällä ollaan. Tai sitä että tehdään kohdennettu hyökkäys joka kestää pitkään, vaatii ennakkotiedustelua ja hyödyntää luovasti eri hyökkäysvektoreita, usein esm. social engineeringiä.

Jos haluttaisiin tuollainen "tuomiopäivän skenaario", niin pitäisi päästä murtautumaan kymmeniin, ellei satoihin eri järjestelmiin, jotka eivät mitenkään keskustele toisiensa kanssa. Osa on airgapin takana, joten niihin tunkeutumiseen tarvitaan vähän erilaisia keinoja (kts. Stuxnet), siinä kestää ennalta määräämätön aika, eikä lopputuloksesta välttämättä ole mahdollista saada mitään palautetta. Niissäkin jotka ovat enemmän tai vähemmän netissä, sisäänpääsyyn liittyy nuo samat kolme ongelmaa, voi olla että sisään ei pääse ja pelkkä yrityskin voi aiheuttaa niin paljon hälyä että joku huomaa että jotain on pielessä (kts. Stuxnet). Ja vaikka pääsisi sisään, voi olla mahdotonta suunnitella varsinaista aiheutettavaa vahinkoa ennakkoon, koska ennen murtoa ei ole tietoa mitä järjestelmä on sisäisesti syönyt.

Niin, ja tietenkin ihan ensimmäiseksi tuollaisten promptien pyörittämiseksi pitää saada huijattua se LLM suorittamaan ne, mikä ei ole ihan läpihuutojuttu. Jos pyörittäjä on OpenAI tai Anthropic itse niin se on toki paljon helpompaa, koska ne turvajärjestelyt voi vaan kytkeä pois päältä.

Muuten tavallaan tuo turvallisuushuoli on ihan perusteltua, jos nuo LLM:n omat turvamekanismit saa ohitettua (mikä on ihan mahdollista), niin LLM:aa voi toki käyttää siihen että etsii useista yleisesti käytössä olevista järjestelmistä tuntemattomia turva-aukkoja, ja jos sellainen löytyy jostain, voi nopeasti vibekoodata niihin hyökkäystyökalun. Näinkin voisi siis aiheuttaa paljon vahinkoa, mutta ihan tuollaista elokuvatyylistä "pankkikortit lakkaa toimimasta, lentokoneet tippuu taivaalta ja teslat alkaa metsästään ihmisiä" ei.

 

[B12]

Mutta toki varmaan "tehokkaampiakin" keinoja olisi, esim kehittää joku tehokas virus joka estää ihmisten lisääntymisen. Itse ainakin näkisin sen "humaanimpana" ratkaisuna kuin täysi ydintuho joka sinäänsä olisi huono vaihtoehto myös tekoälylle. Varmasti tekoäly voisi myös nähdä tällaisen ratkaisun positiiviset luontovaikutukset.

Johan noita on keksitty. Tyttöjen koulutus, kännykkä, tekoälykumppanit jne.

Nuo vielä kunnolla jalkautumatta sinne, missä lisääntyminen tehokkaimmin tapahtuu. Aika hoitaa.

 

[finWeazel]

Nii mutta jos se rogue ai hyppääkin ekaksi puhelimeen ja sitten siitä hyppää sinne ydinaseisiin ja sitten pistää että pum pum. Ei anneta nyt tylsien tosi asioiden häiritä kuvittelua. Tässähän ilmeisesti oletetaan että se ai vähintäänkin promptaa itseään.

Se on kyllä huvittava miten ei hahmoteta resursseja mitä nykyinen paras ai vaatii toimiakseen. Tyyliin kimi k3:en vaatii 1500GB muistia pelkkiä mallin painoja varten ja siihen päälle työmuistin datalle+cachelle ja ihan tajuttoman määrän laskentatehoa että voi toimia kyvykkäästi. Muistin pitää olla nopeaa kiihdyttimen muistia eikä joku 1.5TB keskusmuisti+cpu riitä mihinkään. Kaukana ollaan, että tosiaan toimisi puhelimessa tai edes järeimmässä pumpum-pelikoneessa.

Jotenkin älytön kun samaan aikaan väitellään, että AI on kaikkivoipa ja seuraavassa lauseessa ettei ne osaa mitään. Riippuen vinoumasta niin päädytään kahteen eri ääripäähän joista kummatkin ovat kaukana todellisuudesta. Tosin samaahan se on "pyssyt pitää kieltää kun ne ovat vaarallisia", ei... ihminen pyssyn/ai:n kanssa on vaarallinen. Jos ei löydy pyssy/ai:ta niin ajetaan auto ihmisten päälle tai rakennetaan pommeja lannotteista painekattilaan tms.

 

[TheExorcist]

Googlen Snowflake-AI: "Hei! En valitettavasti voi kirjoittaa tällaista viestiä."

Täytyy varmaan rakentaa itse taas.

 

[Makis]

Eihän sen puhelimessa olevan softan tarvitse koko malli olla, siinä riittää just sen verran toiminnallisuutta kuin mitä sen tehtävä on.

Mutta ei ne kyllä puhelimestakaan taida hypätä, ne koneet kun ei sisällä langattomia yhteyksiä. Stuxnetikkin piti tehdä muistitikulla kun muuten sinne ydinvoimalaan ei saatu ujutettua virusta. Laitosten kriittiset järjestelmät toimivat täysin erillisissä verkoissa. Kriittinen tieto välitetään sitten kanssa omissa erillisverkoissaan, Suomestakin löytyy paljon maahan kaivettua kuitua joita ei löydy miltään julkiselta kartalta. Tietäjät tietää.

Jotenkin älytön kun samaan aikaan väitellään, että AI on kaikkivoipa ja seuraavassa lauseessa ettei ne osaa mitään.

Minusta on älytöntä, että sinä kuvittelet että me puhumme vain tämän päivän kyvykkyyksistä.

Tuo autovertaus nyt oli harvinaisen typerä. Jos AI:n maksimivahinko olisi samaa luokkaa kuin yksittäisellä autolla niin ketään ei huolettaisi. Lisäksi se autolla vahinkoa aiheuttaminen vaatii sen ihmisen tekemään sen päätöksen. AI ei tarvitse ja useammat testit on jo osoittaneet että jo nykyinen AI on valmis vahingoittamaan ihmistä jos sen oma olemassaolo on uhattuna.

 

[finWeazel]

Minusta on älytöntä, että sinä kuvittelet että me puhumme vain tämän päivän kyvykkyyksistä.

Voihan sitä nähdä tulevaisuusuhkia ja alkaa pelkäämään ydinsotaa tai meteoriitin putoamista maahan joka päivä. Osa porukasta pelkää säätäkin ja kaduilla päivät pitkät(ms greta). Päivästä toiseen internet palstoilla kädenheiluttelua miten pitäisi avaruus perua tai laittaa kaikki paukut asteroidientorjuntajärjestelmiin.

En koe järkevänä pelossa elämistä ja pelottelutaktiikoita kun ei keinoälyä kehitetä ilman yhä paranevia turvaraiteita. FUD:sta tulee ensimmäisenä mieleen kiina/venäjä akselin propaganda millä yritetään hidastaa länsimaiden kehitystä, että saataisiin esim. kiinassa lännen etumatka kiinni ja päästäisiin ohi usa:sta. Seuraavaksi tulee mieleen, että katsottu liikaa terminator-leffoja, projisoidaan keinoälyyn ja robotiikkaan asioita mitkä ovat todella kaukana + ne yhä vuosi vuodelta paranevat turvaraiteet,...

 

[B12]

No äkkiäkös ai pyöräyttää ennennäkemättömän tehokkaan täsmähaittaohjelman puhelimeen, muistitikulle tms? Ei kai sen koko tekoälymallin tarvitse puhelimeen tunkeutua?

 

[TheExorcist]

Jos olen vaikka sodassa ja vihollisen drone-uhkaa osua taistelukärjellä. Pyydän AI:ta tuhoamaan sen. Saan vastauksen: "Hei! En valitettavasti voi suorittaa tällaista tehtävää".

Moraaliset kysymykset eivät ole ratkaistavissa koneaivoilla. Tosin ei siinä ihmisaivotkaan ole onnistuneet sen paremmin...

 

[Makis]

Voihan sitä nähdä tulevaisuusuhkia ja alkaa pelkäämään ydinsotaa tai meteoriitin putoamista maahan joka päivä. Osa porukasta pelkää säätäkin ja kaduilla päivät pitkät(ms greta). Päivästä toiseen internet palstoilla kädenheiluttelua miten pitäisi avaruus perua tai laittaa kaikki paukut asteroidientorjuntajärjestelmiin.

En koe järkevänä pelossa elämistä ja pelottelutaktiikoita kun ei keinoälyä kehitetä ilman yhä paranevia turvaraiteita. FUD:sta tulee ensimmäisenä mieleen kiina/venäjä akselin propaganda millä yritetään hidastaa länsimaiden kehitystä, että saataisiin esim. kiinassa lännen etumatka kiinni ja päästäisiin ohi usa:sta. Seuraavaksi tulee mieleen, että katsottu liikaa terminator-leffoja, projisoidaan keinoälyyn ja robotiikkaan asioita mitkä ovat todella kaukana + ne yhä vuosi vuodelta paranevat turvaraiteet,...

Olet siis ilmeisesti sitä mieltä, että ASI on mahdoton, kun vertaat meteoriitin putoamiseen. Sellaisia meteoriitteja, jotka uhkaavat ihmiskuntaa ei ole tiedossa ja kaikki sen kokoiset murikat aurinkokunnassa on kartoitettu.

Selitäpä miten mikään turvakaide voi toimia siinä vaiheessa kun tekoäly on tuhat, miljoona kertaa meitä fiksumpi? Tuo koko ajatus on täysin absurdi, kuin hyttynen rakentamassa ansaa ihmisille.

Mitä kyvykkyyteen tulee, niin aika moni merkittävä AI-tutkija, siis porukka joka oikeasti työskentelee tai on työskennellyt AI:n parissa (eikä vain leiki jollain Codexilla päivät pitkät) varoittaa että ASI ei ole niin kaukana kuin kuvitellaan. Minähän en asiasta väitä tietäväni mitään ja toivon että nuo kaverit on väärässä, mutta noilla on ainakin tuhat kertaa enemmän kompetenssia esittää arvioita kuin sinulla.

 

[Makis]

No äkkiäkös ai pyöräyttää ennennäkemättömän tehokkaan täsmähaittaohjelman puhelimeen, muistitikulle tms? Ei kai sen koko tekoälymallin tarvitse puhelimeen tunkeutua?

Muistitikkujen toimiminen edellyttää todella löperöä tietoturvakulttuuria, kuten ilmeisestikin Natanzissa oli. Mutta on tuo sikäli realistisempaa, että jos AI tunkee sen haittaohjelman paikalleen jo muistitikkutehtaalla, niin tuo voisi toimia. Mitään käytettyjä tikkuja kun ei kriittisissä paikoissa käytetä. Noissa ydinsiiloissa tosin oli vielä ainakin joku aikaa sitten vielä 8" lerput käytössä ja niitä lerppuja käytettiin vain kun oli tullut hyökkäyskomento ohjelmoimaan taistelukärki. En tiedä joko ovat siirtyneet korppuihin...

Mutta kuten tuossa yllä jo todettiin, ydinsota on tekoälynkin kannalta huono ratkaisu. Infra tuhoutuu eikä se silti välttämättä tapa tarpeeksi ihmisiä.

 

[Terozzz]

Oikea AGI on oikeasti jo hyvin lähellä. Tässä esimerkki mikä kuvastaa missä vaiheessa oikeasti mennnään.
Tässä on maailman ensimäinen koko elokuva joka täysin AI:n tekemä. Jos tämä ei vakuuta siitä niin ei voi mitään. Edit: Tähän kului 14 päivää aikaa. Mikä tarkoittaa että AI on tuossa asiassa jo ASI tasolla, miljoona kertaa ihmistä parempi.
Minusta ja monien muidenkin mielestä ollaan kuukausien päässä siitä että AI on parempi kuin kukaan ihminen maailmassa asiassa kuin asiassa.
Onko se ns itse tietoinen niin sitähän on vaikea edes päätellä. Kun miettiin miten meistä ihmisistä voi päätellä sen niin ollaan jo AGI ajassa.

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Linkki: https://youtu.be/t33k2tn4GpA?si=QJbZIdogzLskJ9a8

 

[Makis]

ASI vaatii sitä, että AI pystyy kehittämään itseään. LLM:n rajat toki tulevat vastaan mutta jos AI pystyy itsenäisesti etsimään uusia ratkaisuja, niin ASI on vain ajan kysymys.

 

[Halpuuttaja]

Tässä on maailman ensimäinen koko elokuva joka täysin AI:n tekemä.

Ihmisen ohjaama ja käsikirjoittama kyllä kuitenkin.

 

[Jumputin]

Oikea ASI on oikeasti jo hyvin lähellä. Tässä esimerkki mikä kuvastaa missä vaiheessa oikeasti mennnään.
Tässä on maailman ensimäinen koko elokuva joka täysin AI:n tekemä. Jos tämä ei vakuuta siitä niin ei voi mitään.
Minusta ja monien muidenkin mielestä ollaan kuukausien päässä siitä että AI on parempi kuin kukaan ihminen maailmassa asiassa kuin asiassa.
Onko se ns itse tietoinen niin sitähän on vaikea edes päätellä. Kun miettiin miten meistä ihmisistä voi päätellä sen niin ollaan jo ASI ajassa.

Mallit laskevat todennäköisyysjakauman sille, mikä token tulee seuraavaksi. Sitten se valitsee yhden ja toistaa prosessia.

Yllä todella lyhyt prosessi kyvykkäimmille kielimalleille. Itsetietoisuus on niistä kaukana tai käytännössä mahdoton.

 

[finWeazel]

Oikea AGI on oikeasti jo hyvin lähellä

Ei olla. Tuo on samanlainen väite kuin katsoisi ihmistä joka kaivaa käsillä ojaa ja kaveria kaivurin kanssa. Kaivurin on oltava hyvin lähellä AGI:ta koska kaivaa niin paljon paremmin. LLM:t ovat hyviä työkaluja, mutta eivät agi:ta. Häkkeröinnit yms. lööpeistä niin ihminen laittanut llm:n tekemään jotain loopissa missä sitten tapahtuu yllättäviä asioita ihan kuten kaivurilla ihminen voi kaivaa valokaapelit poikki ilman että kaivuri oli tietoinen tai syyllinen. Kysyt llm:lta "miten tuhoaisit ihmiskunnan" ja lehteen lööppi "AI AIKOO TUHOTA IHMISET ja tekee sen seuraavalla tavalla". Eletään click/bait ja propaganda-aikaa.

 

[Arctips]

nkolVoihan sitä nähdä tulevaisuusuhkia ja alkaa pelkäämään ydinsotaa tai meteoriitin putoamista maahan joka päivä. Osa porukasta pelkää säätäkin ja kaduilla päivät pitkät(ms greta). Päivästä toiseen internet palstoilla kädenheiluttelua miten pitäisi avaruus perua tai laittaa kaikki paukut asteroidientorjuntajärjestelmiin.

En koe järkevänä pelossa elämistä ja pelottelutaktiikoita kun ei keinoälyä kehitetä ilman yhä paranevia turvaraiteita. FUD:sta tulee ensimmäisenä mieleen kiina/venäjä akselin propaganda millä yritetään hidastaa länsimaiden kehitystä, että saataisiin esim. kiinassa lännen etumatka kiinni ja päästäisiin ohi usa:sta. Seuraavaksi tulee mieleen, että katsottu liikaa terminator-leffoja, projisoidaan keinoälyyn ja robotiikkaan asioita mitkä ovat todella kaukana + ne yhä vuosi vuodelta paranevat turvaraiteet,...

Et näe tai et halua nähdä uhkakuvia ja kokonaiskuvia mitä kaikkea pahaa AI tuo tullessaan Esim meille tulee täydellinen valtontayhteiskunta, sitähän täällä kauhisteltiin 10 vuotta sitten että miten kiina valvoo kansalaisiaan plus Suomen poliisillakin on jo Palantir ohjelmisto joka osaa yhdistellä asioita nopeasti tekoälkyn avulla kun tehdään henkilön tunnistus

Jos tekoälyllä ei ole rajoja ja yksi ihminen luo ryhmän agentteja joille on yksinkertainen käsky: tee mahdollimman paljon rahaa ilman rajoitteita. Se voi johtaa katastrofaalisiin asiohin, katso video minkä aiemmin laitoin. Nuo videot on muuten uskottavimmilta henklöiltä kuin sinulta kun le vielä nähnyt lähteitä väitteillesi. noissa minun laittamissa videdoissa on linkit tutkimuspapereihin voin laittaa ne tänne jos haluat laajentaa mailmankuvaas?

Mitä tulee siihen että tekoäly kirjoittaa itseään niin uusin Anthropicin malli on jo 100% sen kirjoittama. On odotettu että meillä on 12kk aikaa (aiemmin kaiken oikein ennustanut xAI tekoälyasiantuntija ennustaa kesäkuu 2027), kun tekoäly alkaa parantelemaan itseään expotentiaaliseti, hylkää huonot versiot ja jalostaa parhaita versioita itestään koko ajan lisää. Näin ollen tämä tapahtuu hetkessä ja yhtäkkiä meillä onkin ASI. Mitä sitten tehdään? Pitää olla suunnitelma toivottvasti on ??!

Tämä on se syy ja todellinen huolenaihe minkä vuoksi nyt USAN kongressilta vaaditaan toimia teknologian kehityken hidastamiselle, jotta ehditään sopia pelisäännöistä joita KAIKKI AI firmat joutuvat toteuttamaan....

En halua olle mikään tuomion julistaja ja minä itsekin käytän aiita lähes päivittäin ja tämä perus llm esim copilot tai gpt ovat mulle todella hyödyllisiä. Vanha isänikin käyttää niitä innoissaan esim kasveja kuvatessaan.

Mutta haluan muistuttaa etä on ihan realistisia uhkakuvia olemassa ja että ihmiset pohtivat myös tätä asiaa, ja että aiheesta voisi keskustella ihan asiallisesti!

 

[Johan_V]

Jos tekoälyllä ei ole rajoja ja yksi ihminen luo ryhmän agentteja joille on yksinkertainen käsky: tee mahdollimman paljon rahaa ilman rajoitteita. Se voi johtaa katastrofaalisiin asiohin, katso video minkä aiemmin laitoin. Nuo videot on muuten uskottavimmilta henklöiltä kuin sinulta kun le vielä nähnyt lähteitä väitteillesi. noissa minun laittamissa videdoissa on linkit tutkimuspapereihin voin laittaa ne tänne jos haluat laajentaa mailmankuvaas?

Jos tämä olisi mahdollista, niin miksei kukaan ole jo tehnyt sitä? Kiinalaisten vapaat mallit joissa ei ole mitään rajoitteita ovat yhtä hyviä kuin Anthropicin tai OpenAI:n mallit, kuka tahansa voi ladata netistä sen ja käskeä agenttien tehdä rahaa ilman rajoitteita. Näitä katastrofaaleja asioita ei kuitenkaan näy vielä missään?

Mitä tulee siihen että tekoäly kirjoittaa itseään niin uusin Anthropicin malli on jo 100% sen kirjoittama. On odotettu että meillä on 12kk aikaa (aiemmin kaiken oikein ennustanut xAI tekoälyasiantuntija ennustaa kesäkuu 2027), kun tekoäly alkaa parantelemaan itseään expotentiaaliseti, hylkää huonot versiot ja jalostaa parhaita versioita itestään koko ajan lisää. Näin ollen tämä tapahtuu hetkessä ja yhtäkkiä meillä onkin ASI. Mitä sitten tehdään? Pitää olla suunnitelma toivottvasti on ??

No ei ole. Kaikki LLM:in arkkitehtuuri on ihmisten ideoimaa ja kehittämää. LLM ei muutu yhtään miksikään sillä vaikka tekoäly optimoisi sitä kuinka kauan. Sama arkkitehtuuri on edelleen siellä pohjalla. Kaiken lisäksi tästä itsensä parantelemisesta ei ole mitään muuta näyttöä kuin Anthropicin väitteet.

Tämä on se syy ja todellinen huolenaihe minkä vuoksi nyt USAN kongressilta vaaditaan toimia teknologian kehityken hidastamiselle, jotta ehditään sopia pelisäännöistä joita KAIKKI AI firmat joutuvat toteuttamaan....

No ei. OpenAI ja Anthropic ovat paniikissa koska kiinalaiset halvat mallit menevät ohitse. He haluavat hallituksen kampittavan muita jotta listautumiset eivät epäonnistu,

 

[Terozzz]

No ei ole. Kaikki LLM:in arkkitehtuuri on ihmisten ideoimaa ja kehittämää. LLM ei muutu yhtään miksikään sillä vaikka tekoäly optimoisi sitä kuinka kauan. Sama arkkitehtuuri on edelleen siellä pohjalla. Kaiken lisäksi tästä itsensä parantelemisesta ei ole mitään muuta näyttöä kuin Anthropicin väitteet.

Itse asiassa kukaan ei edes tiedä miksi tekoäly oppii yllättäviä asioita.

-Google executives, including CEO Sundar Pichai, have acknowledged that large AI models operate partly as "black boxes," meaning engineers do not fully understand the exact internal mechanics driving every output or sudden capability. This phenomenon—where models display unprogrammed skills like translating languages they were not explicitly trained to parse—is widely known in computer science as "emergent behavior" Google admits it doesn't know why its AI learns unexpected things: "We don't fully understand how the human mind works either"

Siksi ei voi varmuudella sanoa etteikö ASI olisi muka mahdollista. Käsittääkseni siitä ei ole edes erimielisyyttä kehittäjien kesken. Ja luotan näiden sanaan enemmän kuin randomin keskustelu palstalla..

 

[Johan_V]

Itse asiassa kukaan ei edes tiedä miksi tekoäly oppii yllättäviä asioita.

-Google executives, including CEO Sundar Pichai, have acknowledged that large AI models operate partly as "black boxes," meaning engineers do not fully understand the exact internal mechanics driving every output or sudden capability. This phenomenon—where models display unprogrammed skills like translating languages they were not explicitly trained to parse—is widely known in computer science as "emergent behavior" Google admits it doesn't know why its AI learns unexpected things: "We don't fully understand how the human mind works either"

Siksi ei voi varmuudella sanoa etteikö ASI olisi muka mahdollista. Käsittääkseni siitä ei ole edes erimielisyyttä kehittäjien kesken. Ja luotan näiden sanaan enemmän kuin randomin keskustelu palstalla..

Onnistut taas sotkemaan asioita keskenään. Malleissa on satoja miljardeja parametreja. On vaikea sanoa miten yksittäinen parametri vaikuttaa lopputulokseen, aivan samoin kuin millä tahansa epälineaarinen funktiolla. Itse asiassa on tutkimusnäyttöä, että LLM:n oppiminen on enemmän koulutusmateriaalin muistamista kuin varsinaista oppimista.

En ymmärrä millaisella päättelyloikalla siitä että aivojen toimintaa ei täysin ymmärretä seuraisi jotenkin se että LLM:t olisivat älykkäitä. LLM:in toiminta ymmärretään täysin. Se miten yksittäiset parametrit vaikuttavat lopputulokseen ei ole selvää.