NVIDIAa syytetään yrityssalaisuuksien varastamisesta

[pomk]

Onko heittää jotain perustelua miksi ei tee? En tiedä mitä pilipali skriptejä sinä mietit mutta siihenhän koneoppiminen ja tekoäly perustuu että ajan kanssa se paranee koska sillä on isompi tietokanta dataa jota käsitellä.

Jos se aina ”paranee” (oikeasti muuttuu) ajan kanssa, kuten esitit ja pitää ihan paikkansakin, niin se ei voi olla optimi. Optimi ei parane.

Optimin ettiminen vaatii jotain ihan muuta kuin tilastomatematiikkaa. Useimmiten todistetaan matemaattisesti että joku menetelmä on paras mitä voidaan saavuttaa.

 

[Halpuuttaja]

AI ei innovoi, pystyy vain käsittelemään nykyistä dataa.

Taitaa olla ihmisen keskushermostolla sama rajoitus, jos nyt oikein ymmärrän mitä tarkoitat.

 

[Mnikey]

Koko alalle olisi hyväksi, jos tekoälyn sijaan alettaisiin käyttää termiä mukaäly, koska pelkästä illuusiostahan siinä on kyse.

 

[finWeazel]

Koko alalle olisi hyväksi, jos tekoälyn sijaan alettaisiin käyttää termiä mukaäly, koska pelkästä illuusiostahan siinä on kyse.

koneoppiminen olis hyvä termi, mutta markkinamiehet mukana niin AI:ta myydään..

Koneoppiminen – Wikipedia

fi.wikipedia.org

Ei niin kuiva juttelutuokio keinoälystä. Selviää muun muassa miksi isot kielimallit eivät ole AGI/AI ja miksi ne ei tulekaan olemaan AI/AGI. Jotain uutta tarvitaan oikeaan tekoälyyn kuin nykyiset tekniikat. Lecunn esittää erittäin hyvän argumentin miksi nykytiedon pohjalta AGI on kymmenien vuosien päässä tulevaisuudessa.



Kuiva, mutta erittäin tietopitoinen juttelutuokio ai:n kehittämisestä. Kaukana ollaan siitä, että osattaisiin tehdä AGI

 

[Mestre]

Jos joku algoritmi tekee massia niin algoritmin tekijä saa osan sijoittajien voitosta.

Ja jos se tekee tappiota, niin algoritmin tekijä pääsee kuin koira veräjästä?

 

[finWeazel]

Ja jos se tekee tappiota, niin algoritmin tekijä pääsee kuin koira veräjästä?

Ei ole luvattu mitään voittoa niin ei ole veräjää mistä koira menisi? Jos olis joku varma tapa tehdä voittoa niin sen varman tavan omistajahan olisi hetkessä maailman rikkain ihminen kun keräisi koko ajan voittoa voitonpäälle.

 

[Nappe1]

Siinä vaiheessa kun AI alkaa tehdä itsenäisesti innovatiivista softaa, se tajuaa hyvin pian että target market eli ihmiskäyttäjät on aivan liian rajoittunut ja toteuttaa itse itselleen kasan mieleisiä AI käyttäjiä ja alkaa tehdä softaa vain niille.

 

[Griffin]

Siinä vaiheessa kun AI alkaa tehdä itsenäisesti innovatiivista softaa, se tajuaa hyvin pian että target market eli ihmiskäyttäjät on aivan liian rajoittunut ja toteuttaa itse itselleen kasan mieleisiä AI käyttäjiä ja alkaa tehdä softaa vain niille.

Hyvin monelle välttää kunhan on toimivaa softaa, joka ratkaisee halutun ongelman. "Innovaatiota" tarvitaan luomaan joku täysin uusi haara ja niidä luodaan lopulta hyvinkin harvoin. Useinmiten riittää oikein hyvin, että AI osaa pykätä käytettävän softan, kun sille on kerrottu, mitä softan pitää tehdä. Ihmisohjelmoijilta tämä tuntuu jotenkin onnistuvan vuosi-vuodelta huonommin..

Lisäksi arvelen, että toisin, kun ihmiset, AI ei tympäänny niin helposti ja pidä huonoista ideoistaan kiinni, kun käyttäjä ilmoittaa, että tekemässäsi softassa on pahoja ongelmia ja tässä on 30 kohtaa, jotka on muutettava tavoilla, jotka on listassa mainittu..

Uskoisin, että AI tekee esim jonkun automaatio-ohjauksen paljon ihmistä nopeammin ja muokkaaa sita halutessa helposti, kuin sille vain kerrotaan, että on nämä palikat ja niiden pitää tehdä tämä ja tämä ja käyttöliittymässä oltava sellainen tällainen ja tuollainen toiminto ym, ym ym.. Kun sivusta seurasin yhtä erään firman asiakkaalle tekemää projektia, niin oli meko kauheaa paskaa ja keskenhän se sitten osittaiun jäi ja sinne jäi myös pahasti hankaloittavia bugeja. Laitteet oli ok ja olisvat ajaneet tehtävänsä. Ohjelmoija vain ei osannut / ymmärtänyt, mitä asiakas halusi ja korjailu ei juurikaan kiinnostanut..

 

[pomk]

Hyvin monelle välttää kunhan on toimivaa softaa, joka ratkaisee halutun ongelman. "Innovaatiota" tarvitaan luomaan joku täysin uusi haara ja niidä luodaan lopulta hyvinkin harvoin. Useinmiten riittää oikein hyvin, että AI osaa pykätä käytettävän softan, kun sille on kerrottu, mitä softan pitää tehdä. Ihmisohjelmoijilta tämä tuntuu jotenkin onnistuvan vuosi-vuodelta huonommin..

Lisäksi arvelen, että toisin, kun ihmiset, AI ei tympäänny niin helposti ja pidä huonoista ideoistaan kiinni, kun käyttäjä ilmoittaa, että tekemässäsi softassa on pahoja ongelmia ja tässä on 30 kohtaa, jotka on muutettava tavoilla, jotka on listassa mainittu..

Uskoisin, että AI tekee esim jonkun automaatio-ohjauksen paljon ihmistä nopeammin ja muokkaaa sita halutessa helposti, kuin sille vain kerrotaan, että on nämä palikat ja niiden pitää tehdä tämä ja tämä ja käyttöliittymässä oltava sellainen tällainen ja tuollainen toiminto ym, ym ym.. Kun sivusta seurasin yhtä erään firman asiakkaalle tekemää projektia, niin oli meko kauheaa paskaa ja keskenhän se sitten osittaiun jäi ja sinne jäi myös pahasti hankaloittavia bugeja. Laitteet oli ok ja olisvat ajaneet tehtävänsä. Ohjelmoija vain ei osannut / ymmärtänyt, mitä asiakas halusi ja korjailu ei juurikaan kiinnostanut..

99% ongelmista tulee huonosta speksaamisesta ja siihen tuo ei tuo muutosta. Moni kuvittelee että osaa esittää ratkaistavan ongelman siten että sitä ei voi ymmärtää väärin, mutta tämä on todellisuudessa varsin poikkeuksellinen kyky. AI koodaa varmaan samaa paskaa aika nopeasti kuin koulun penkiltä haettu matalapalkkakoodarikin, eli juuri sitä mitä toinen ihminen kuvittelee haluavansa, mutta jota hän ei oikeasti tarvitse. AI varmaan myös tekee vielä pitkän aikaa paljon tehottomampaa sontaa kuin pätevä koodari, johtaen aina vaan kasvavampaan overheadiin kun kukaan ei tommosta ai paskaa ala optimoimaan, siihen hommaan kun pitäisi palkata joku ihan oikealla rahalla.

Että joo, ei tule ratkaisemaan mitään pitkiin aikoihin. Luultavasti vaan paskoo nykytilannetta entisestään.

 

[finWeazel]

99% ongelmista tulee huonosta speksaamisesta ja siihen tuo ei tuo muutosta. Moni kuvittelee että osaa esittää ratkaistavan ongelman siten että sitä ei voi ymmärtää väärin, mutta tämä on todellisuudessa varsin poikkeuksellinen kyky. AI koodaa varmaan samaa paskaa aika nopeasti kuin koulun penkiltä haettu matalapalkkakoodarikin, eli juuri sitä mitä toinen ihminen kuvittelee haluavansa, mutta jota hän ei oikeasti tarvitse. AI varmaan myös tekee vielä pitkän aikaa paljon tehottomampaa sontaa kuin pätevä koodari, johtaen aina vaan kasvavampaan overheadiin kun kukaan ei tommosta ai paskaa ala optimoimaan, siihen hommaan kun pitäisi palkata joku ihan oikealla rahalla.

Että joo, ei tule ratkaisemaan mitään pitkiin aikoihin. Luultavasti vaan paskoo nykytilannetta entisestään.

Entä jos github copilot + domain spesifinen chatgpt komboa käytettäisiin nopeaan protoiluun? Ei paras tänään, mutta missä ollaan 5v, 10v päästä? Sen sijaan, että pyöritetään paperisirkusta managerien ja myyjien/ostajien kesken generoidaankin dokumenttia josta syntyy ajettavaa prototyyppiä jota asiakas voi käyttää ns. heti eikä kuukausien päästä. Kun asiakas on tyytyväinen ratkaisuun kirjoitetaan koko härdelli uusiksi joko kokonaan tai tarvittavilta osilta. Neuroverkon generoima koodi voidaan palastella kiinni ihmisen tekemiin ratkaisuihin niin ettei protosta tarvi 100% olla generoitua koodia.

Nvidia on tehnyt oman kielimallin(chipnemo) mitä on geneerisen gpt:n lisäksi opetettu nvidian koodeilla, spekseillä, bugikannalla jne. Junior devaajat voivat kysyä kielimallilta ja oppia asioita sen sijaan, että ensimmäisenä kysyttäisiin seniorilta. Tän hetkinen "proto" chipnemo osaa myös tehdä pieniä skriptejä/koodinpalasia. Hallusinointi vähenee kiitos domainkohtaisen opetusmateriaalin. Missä lie chipnemon kyvykkyys esim. 5v, 10v päästä?

Jensen ei usko chipnemon vievän työpaikkoja. Jensen uskoo, että nykyisten työntekijöiden tehokkuus kasvaa koneavustimien ansiosta.

lähde chipnemo: Silicon Volley: Designers Tap Generative AI for a Chip Assist

Hyvä uusi video missä nvidian tutkimuspuolen vetäjä juttelee syväoppimisen trendeistä mukaanlukien chip nemo. Erittäin hyvä video

 

[pomk]

Entä jos github copilot + domain spesifinen chatgpt komboa käytettäisiin nopeaan protoiluun?

Pätevän koodarin apuna noi voi hyvin toimiakkin tehostavana työkaluna. Se että joku keskijohdon/myynnin tyyppi saisi mitään aikaiseksi on melkoista unelmointia.

Nvidia on tehnyt oman kielimallin(chipnemo) mitä on geneerisen gpt:n lisäksi opetettu nvidian koodeilla, spekseillä, bugikannalla jne. Junior devaajat voivat kysyä kielimallilta ja oppia asioita sen sijaan, että ensimmäisenä kysyttäisiin seniorilta.

Meilläkin on tommonen töissä nykyään. Gpt4:n kanssa pykätty. Opettaa lähinnä käyttämään asioita väärin ja seniorit joutuvat joka tapauksessa tekemään saman työn.

Todella harvassa firmassa koko koodikanta on konsistentisti parhaalla tavalla toteutettu ja kielimalli ei ymmärrä että mitkä on uusia hyväksi todettuja tapoja ja mitkä on legacypaskaa. Lisäksi toteutuskohtaisesti voidaan valita todella spesifejä juttuja joiden kontekstia se kielimalli ei ymmärrä ja sitten ehdoittaa tehottomia tapoja tehdä juttuja. Lisäksi se tuosta opettamisesta huolimatta hallusinoi usein metodeja joita ei ole olemassakaan custom tietotyypeissä.

Ehkä viiden vuoden kuluttua tuo jo jotain osaa, mutta se vaatii että päästään kielimalleista ensin eroon.

 

[Griffin]

99% ongelmista tulee huonosta speksaamisesta ja siihen tuo ei tuo muutosta. Moni kuvittelee että osaa esittää ratkaistavan ongelman siten että sitä ei voi ymmärtää väärin, mutta tämä on todellisuudessa varsin poikkeuksellinen kyky. AI koodaa varmaan samaa paskaa aika nopeasti kuin koulun penkiltä haettu matalapalkkakoodarikin, eli juuri sitä mitä toinen ihminen kuvittelee haluavansa, mutta jota hän ei oikeasti tarvitse. AI varmaan myös tekee vielä pitkän aikaa paljon tehottomampaa sontaa kuin pätevä koodari, johtaen aina vaan kasvavampaan overheadiin kun kukaan ei tommosta ai paskaa ala optimoimaan, siihen hommaan kun pitäisi palkata joku ihan oikealla rahalla.

Että joo, ei tule ratkaisemaan mitään pitkiin aikoihin. Luultavasti vaan paskoo nykytilannetta entisestään.

Ohjelmopijien ongelmana on monasti se, että niillä ei ole minkäänlaista käsitystä ympäristöstä, johon ovat sitä ohjelmaa tekemässä, jolloin syntyy sitten ihan käsittämättömiä pökäleitä.
Lisäksi, kun säästetään, niin sen lisäksi ohjelmoija saattaa puhua vierasta kieltä ja tehdä homman täysin etänä, jolloin katastrofi ja prosessin hitaus on yleensä taattu.

Sitten huonojen lähtökohtien lisäksi ihmisen pitkäjänteisyys VS AI:n on kehno, jolloin homma jää sitten kesken tai ei raahdita aloittaa alusta, kun käy selväksi, että ei olla ymmärretty, mitä asiakas on halunnut.

Ainankin itse näen, että AI:t tulevat syrjäyttämään tuolla alalla huomattavan osuuden työpaikoista, tulevina vuosikymmeninä..

Näkisin, että esim tulevaisuudessa voisi ostaa automaation laitteeseen X ja siihen kuuluisi vakiona tietty määrä AI aikaa.. Ensin vain katsottaisiin tutoriaali ja muutamia esimerkkejä projekteista, jonka jälkeen asiakas miettisi kootut selitykset ohjelmasta ja sitä voisi testata AI:n kanssa esim simulointina ja laitteistossa ja muokkauksia olisi helppo tehdä ihan selittämällä ja AI sylkäisisi uuden ohjemaversion muutamassa sekunnissa ja taas testiä..

 

[finWeazel]

Pätevän koodarin apuna noi voi hyvin toimiakkin tehostavana työkaluna. Se että joku keskijohdon/myynnin tyyppi saisi mitään aikaiseksi on melkoista unelmointia.


Meilläkin on tommonen töissä nykyään. Gpt4:n kanssa pykätty. Opettaa lähinnä käyttämään asioita väärin ja seniorit joutuvat joka tapauksessa tekemään saman työn.

Todella harvassa firmassa koko koodikanta on konsistentisti parhaalla tavalla toteutettu ja kielimalli ei ymmärrä että mitkä on uusia hyväksi todettuja tapoja ja mitkä on legacypaskaa. Lisäksi toteutuskohtaisesti voidaan valita todella spesifejä juttuja joiden kontekstia se kielimalli ei ymmärrä ja sitten ehdoittaa tehottomia tapoja tehdä juttuja. Lisäksi se tuosta opettamisesta huolimatta hallusinoi usein metodeja joita ei ole olemassakaan custom tietotyypeissä.

Ehkä viiden vuoden kuluttua tuo jo jotain osaa, mutta se vaatii että päästään kielimalleista ensin eroon.

Arvelen, että tietyntyyppiset työt muuttuvat. Projektin speksailu+myyntihomma voi hyvinkin muuttua teknisemmäksi työksi missä tehdään proto osana määritelmää mitä ollaan ostamassa sen sijaan, että heitetään organisaatiosta toiseen vain vaatimusdokumentti.

Kielimallihommissa varmasti riippuu paljon firman kyvykkyydestä. Joku nvidia hyvin domain spesifisellä valtavalla määrällä dataa+iso supertietokone käytössä aika eri lähtökohdissa kuin joku pienempi pulju huonompien resurssien kanssa. Esimerkiksi joku apple, google tai microsoft vois oman käyttiksensä+middlewaret+appsit hyvinkin oivasti puskea kielimalliin(copilot) jota tarjotaan osana sdk:ta. Resursseja olisi myös tehdä kielimallin opettamiseen esimerkkikoodia + resurssia lopputuotteen tuunaukseen.

 

[pomk]

Ohjelmopijien ongelmana on monasti se, että niillä ei ole minkäänlaista käsitystä ympäristöstä

Heh. Ettei olis ennemmin niin että sitä ympäristöä ei heille kuvata siten että sitä ei voi ymmärtää väärin.

Ainankin itse näen, että AI:t tulevat syrjäyttämään tuolla alalla huomattavan osuuden työpaikoista, tulevina vuosikymmeninä..

Oletko ihan alalla töissä vai mistä näkökulmasta tilannetta arvioit? En usko että yhtäkään koodarin työpaikkaa syrjäytetään, vaan ennemmin ammattilaiset pääsevät keskittymään olellisiin juttuihin. Keskijohto ja muut mukafiksut sen sijaan saattavat saada äkkiä kenkää.

Näkisin, että esim tulevaisuudessa voisi ostaa automaation laitteeseen X ja siihen kuuluisi vakiona tietty määrä AI aikaa.. Ensin vain katsottaisiin tutoriaali ja muutamia esimerkkejä projekteista, jonka jälkeen asiakas miettisi kootut selitykset ohjelmasta ja sitä voisi testata AI:n kanssa esim simulointina ja laitteistossa ja muokkauksia olisi helppo tehdä ihan selittämällä ja AI sylkäisisi uuden ohjemaversion muutamassa sekunnissa ja taas testiä..

Miksei firma tee sillä kuvailemallasi kaikkivoipaisella AI:lla jo alun perin softaa jota saa kuka tahansa helposti muovattua mieleisekseen ilman jotain ”AI -laskenta-aikaa”?
En ymmärrä.

Resursseja olisi myös tehdä kielimallin opettamiseen esimerkkikoodia + resurssia lopputuotteen tuunaukseen.

Tuotahan se vaatisi. Käsin pitää kone opettaa tavoille ja uusiksi joka kerta kun kehitetään mitään apia eteenpäin. Saavutettava hyöty pitää olla oikeasti merkittävä jotta leikkiin kannattaa lähteä.

Arvelen, että tietyntyyppiset työt muuttuvat. Projektin speksailu+myyntihomma voi hyvinkin muuttua teknisemmäksi työksi missä tehdään proto osana määritelmää mitä ollaan ostamassa sen sijaan, että heitetään organisaatiosta toiseen vain vaatimusdokumentti.

Muuttuvat varmasti juu. Näkisin että koodaamisesta ymmärtävät siirtyvät voimakkaammin speksaamiseen ja nykyiset speksaajat opettelee jotain muuta uutta tekemistä itselleen. Kenties QA töitä tai muuta hauskaa kun AI tuotokset pitää kuitenkin jonkun varmentaa.

 

[myrskyviitta]

Optimi ei parane.

Miten niin ei parane? Ei optimi ole superlatiivi.
Tekoäly paranee mitä enemmän dataa sillä on

 

[Kaotik]

Miten niin ei parane? Ei optimi ole superlatiivi.
Tekoäly paranee mitä enemmän dataa sillä on

Optimi nimenomaan on superlatiivi.

 

[myrskyviitta]

Optimi nimenomaan on superlatiivi.

On vai? Mikä on sen positiivi perusmuoto?

 

[Kaotik]

On vai? Mikä on sen positiivi perusmuoto?

No voi herranjestas sentään mikä lillukanvarsi. Optimi tarkoittaa parasta.

optimi
paras, edullisin tila tai määrä, ihannetila tai ihannemäärä, ihanneolot

Etymologinen täydennysosa
kansainvälinen sana
Lähtökohtana lähinnä latinan optimum ’optimi; paras’, johdos sanasta optimus ’paras’, ehkä johdos sanasta ops ’valta, varat; kyky, voima’.
Latinan optimus ’paras’ on sanan bonus ’hyvä’ superlatiivi.

T. Kotimaisten kielten keskus

 

[sjii]

Optimi nimenomaan on superlatiivi.

Niin... Vaikka sinänsä sanana tai käsitteenä tuo optimaalisuus vertautuukin superlatiiviin, niin reaalimaailmassa se, mikä milloinkin on optimaalista, kyllä elää koko ajan, ja riippuu myös asiayhteydestä. Jos tarkastellaan havainnollistavasti esimerkiksi sanaliittoa "valokuva- tai videotiedoston optimaalinen pakkaaminen Internet-sivuston kautta katselua varten" teknisten tunnusmerkkien suhteen, on asialla tarkoitettu esimerkiksi sellaiset kaksikymmentä vuotta sitten käytännössä jotain aivan muuta kuin vaikkapa noin kymmenen vuotta sitten tai näin marraskuun 2023 viimeisinä päivinä. Toisaalta taas vastaus esimerkiksi yksinkertaisempaan ilmaisuun "laadultaan optimi/optimaalinen videotiedoston muoto" on yhä käytännössä katsoen muuttumaton: raakavideomuoto tai häviötön pakkausmenetelmä.

 

[myrskyviitta]

Optimi tarkoittaa parasta.

Jos se on superlatiivi niin silloin täytyy löytyä myös komparatiivi ja positiivi.
Joka tapauksessa oli mikä oli pointtina oli että voi se silti parantua, se on sitten vain sen hetken optimi mitä tekoäly pystyy olemaan sen datan kanssa mitä sillä hetkellä löytyy.

 

[Joosuasd]

Otsikoksi voisi vaihtaa Tulevaisuus vs nykypäivä

 

[pomk]

Jos se on superlatiivi niin silloin täytyy löytyä myös komparatiivi ja positiivi.
Joka tapauksessa oli mikä oli pointtina oli että voi se silti parantua, se on sitten vain sen hetken optimi mitä tekoäly pystyy olemaan sen datan kanssa mitä sillä hetkellä löytyy.

Huoh. Yhtälailla jos sanoo että paras, niin joku änkyröi kohta että ”no se vaan on paras mitä ai sillon teki !!1 XD”

Ei, kyse oli siitä että voiko ai tuottaa optimin lopputuloksen, siis sellaisen jota ei voi parantaa. Ei siis joku ai algon lokaali hetkellinen paras tulos, vaan ihan aito oikea optimi.

Mitä sanaa sitten toivoisit että olisin käyttänyt sanan optimi sijaan, kuvaamaan ratkaisua jota ei voida laadullisesti parantaa? Konteksti sanan käytölle tuli siitä kun itse käytit sitä vielä superlatiivimuodossa ”optimaalisin”. AI ei voi löytää kuin täysin triviaaleihin ongelmiin optimaalisinta ratkaisua. Rajoite tähän tulee tilastomatematiikan puolelta.

 

[mahead]

Miten niin ei parane? Ei optimi ole superlatiivi.
Tekoäly paranee mitä enemmän dataa sillä on

Tässä keskustelussa ei tarkoitettu mitään yleiskielistä merkitystä. "Optimi" on matemaattinen termi, joka tarkoittaa parasta tapaa suorittaa tehtävä. Se ei voi siitä enää parantua - jos voi, edellinen versio ei ollut optimi (se saattoi olla paras tunnettu, mutta ei optimi). Se mikä on "paras", riippuu tavoitteesta.

Jos vaatimukset muuttuu, kuten esimerkissä videoista, niin ei se vanha optimi yhtäkkiä muutu epäoptimaaliseksi. Sen sijaan vaatimukset ja sitä myöten tehtävä muuttui, jolloin uuteen tilanteeseen täytyy etsiä sen optimi.

 

[Joosuasd]

Tässä keskustelussa ei tarkoitettu mitään yleiskielistä merkitystä. "Optimi" on matemaattinen termi, joka tarkoittaa parasta tapaa suorittaa tehtävä. Se ei voi siitä enää parantua - jos voi, edellinen versio ei ollut optimi (se saattoi olla paras tunnettu, mutta ei optimi). Se mikä on "paras", riippuu tavoitteesta.

Jos vaatimukset muuttuu, kuten esimerkissä videoista, niin ei se vanha optimi yhtäkkiä muutu epäoptimaaliseksi. Sen sijaan vaatimukset ja sitä myöten tehtävä muuttui, jolloin uuteen tilanteeseen täytyy etsiä sen optimi.

Paljon puhutaan siitä, että AI ei pysty tekemään parempaa ku joku ihminen. Tiedättekö että asiantuntija saattaa työssään valita, huonomman lopputuloksen ihan tiedostaen. Yksi syy tähän on priorisointi, eli valitsemalla huonomman lopputuloksen asiantuntija säästää esimerkiksi aikaa. Eli ei sen AI:n tarvitse tehdä asioita ihmistä paremmin, riittää että se tekee ihan ok ja tämä on siis nykyhetki (tulevaisuus on tuloillaan). Mun yks ystävä tuottaa digitaalista- ja fyysistä -sisältöä työkseen ja se sano, että kyl AI on häneltä jo syönyt kuormasta. Voidaan tulevaisuutta tässä ennustella kukin vuorollaan

 

[finWeazel]

Paljon puhutaan siitä, että AI ei pysty tekemään parempaa ku joku ihminen. Tiedättekö että asiantuntija saattaa työssään valita, huonomman lopputuloksen ihan tiedostaen. Yksi syy tähän on priorisointi, eli valitsemalla huonomman lopputuloksen asiantuntija säästää esimerkiksi aikaa. Eli ei sen AI:n tarvitse tehdä asioita ihmistä paremmin, riittää että se tekee ihan ok ja tämä on siis nykyhetki (tulevaisuus on tuloillaan). Mun yks ystävä tuottaa digitaalista- ja fyysistä -sisältöä työkseen ja se sano, että kyl AI on häneltä jo syönyt kuormasta. Voidaan tulevaisuutta tässä ennustella kukin vuorollaan

Github copilotilla taitaa olla noin 1.5miljoonaa maksavaa käyttäjää. Aika hyvin on "ai-avustettu" koodauskin lähtenyt lentoon. Ketsuppi on ulos pullosta. Niin kuin jensen sanoo. AI ei vie kenenkään töitä, mutta ai avustettu ihminen vie.

 

[pomk]

Eli ei sen AI:n tarvitse tehdä asioita ihmistä paremmin, riittää että se tekee ihan ok

Tämä taas johtaa entistä paskempaan softan tasoon, ainakin ens alkuun. Maltan tuskin odottaa.
Kyllä kaikki tässä ketjussa ymmärtää että paras ratkaisu ei ole usein tarpeen, kyse keskustelussa oli siitä että esitettiin perättömiä väitteitä siitä että ai voisi löytää optimaalisimman tavan tehdä jotain ja se ei yksinkertaisesti pidä paikkaansa suurimmassa osassa ongelmia. Todellisuus toki on kuten kirjoitit että halpa paska on usein damagerimanagerin mielestä parempi kuin vähän kalliimpi ok ratkaisu.

 

[finWeazel]

Nvidialla alkaa olemaan tuskaisen iso määrä laskentakapasiteettia. Uusimpana koneena amazon rakentaa nvidialle 16384 gpu+cpu:ta sisältävän supertietokoneen. Kone menee aws infrastruktuuriin. Supertietokone käyttää uusinta varianttia missä on 32 cpu+gpu piiriä kytketty yhteen muistiavaruuteen nvlink:lla. 32 piiriä lienee aika hyvä koko. Yksi gpt4 instanssi vaatii useampien kymmenien piirien muistin. Helpottaa ohjelmointia ja optimointia, jos/kun malli on samassa muistiavaruudessa vaikkakin jaettuna useammalle piirille.

Amazon said that the supercomputer is expected to provide 65 exaflops of AI performance and have up to 9.5 petabytes of total memory

The system will feature 16,384 GH200 NVL32 Grace Hopper Superchips and is expected to be the world’s largest cloud AI supercomputer

Ennestään nvidialla on jo EOS missä on karvanpäälle 10000 gpu:ta NVIDIA's Eos supercomputer just broke its own AI training benchmark record

Tomshardwaren kirjoittamana uutinen amazonin nvidialle rakentamasta koneesta.

The Nvidia DGX Cloud hosted on AWS is another major component of the partnership. This AI-training-as-a-service platform is the first commercially available instance to incorporate the GH200 NVL32 machine with 19.5 TB of unified memory. The platform provides developers with the largest shared memory available in a single instance, significantly accelerating the training process for advanced generative AI and large language models, potentially exceeding 1 trillion parameters.

In addition, AWS will be the first to offer a cloud-based AI supercomputer based on Nvidia's GH200 Grace Hopper Superchips. This unique configuration will connect 32 Grace Hopper Superchips per instance using NVLink. It will scale up to thousands of GH200 Superchips (and 4.5 TB HBM3e memory) connected with Amazon's EFA networking and supported by advanced virtualization (AWS Nitro System) and hyper-scale clustering (Amazon EC2 UltraClusters).

AWS and Nvidia build a supercomputer with 16,384 Superchips, Team Up for Generative AI Infrastructure

New Amazon EC2 instances powered by NVIDIA GH200, H200, L40S and L4 GPUs incoming.

www.tomshardware.com