AI-koodausavustimet, keskustelua AI-avustetusta koodaamisesta/skriptaamisesta/dokumentoinnista/...

[tarmo2011]

Ei hitto, mulla on tuo chatgpt pro ja käyttelin iloisesti Codexia, kunnes tuli että tokenit loppuu ja uudet tokenit käyttöön 23.7.
No sitte projekti oli niin hyvällä mallilla, että ostin 20$ lisätokenit ja aattelin että nehän riittää mukavasti tuohon resettiin.

No lopputulos oli, että päivässä loppuivat ne sitten. Siirryin nyt sitten Cursoriin jatkamaan töitä, katsellaan miten näissä nämä resetit ja tokenien hinnat kehittyy...

Itellä on taas plus ja ajelen aina extremely high ja tuntuu etten koskaan saa käytettyä viikkorajaa, toki vain harraste pohjalla. Kerran piti tällä viikolla ajaa speedillä ja tykittää pyyntöjä, että sai käytettyä resetin ennenkin se vanhenee ja ne meni 'pilaa' senkin antamalla heti kohta automaattisesti resetin

 

[Karhu III]

Ei hitto, mulla on tuo chatgpt pro ja käyttelin iloisesti Codexia, kunnes tuli että tokenit loppuu ja uudet tokenit käyttöön 23.7.
No sitte projekti oli niin hyvällä mallilla, että ostin 20$ lisätokenit ja aattelin että nehän riittää mukavasti tuohon resettiin.

Ostit tokeneita? Et siis ottanut $20 tilausta?

OpenAI:lla oli ihan äskettäin kamppis millä sai $100 edestä crediittejä. Siis tokeneita. Oikeasti se vastaa yhtä $20 tilausta (personal plan).

 

[finWeazel]

Mun kaavailui 8xgb300:sta kimi 3:lle tais olla aika pahasti metsässä tai bloginkirjoittajalla ollut vain huonoja kiihdyttimiä tarjolla. Mielenkiinnolla odotan, kun nvidia tehnee jotain optimointeja + blogipostauksen aiheesta.

we recommend deploying Kimi K3 on supernode configurations with 64 or more accelerators

Kimi K3 Tech Blog: Open Frontier Intelligence

Kimi K3 is the world's first open 3T-class model — frontier performance across coding, knowledge work, and reasoning, with native multimodality and 1M context.

www.kimi.com

 

[Halpuuttaja]

Painot olis jotain ~1500 Gt luokkaa, jos kerran valtaosa tensoreista on MXFP4 formaatissa. Arvioin laiskasti Deepseek V4 Flashin pohjalta joka on 284B parametria, valtaosa tensoreista MXFP4 formaatissa ja kokoa ~150 Gt.

Kai tällöin esim. 64 x A100 40GB eli 2560 Gt noin riittäisi muistiavaruuden puolesta. Tai sitten paljon pienempi määrä Blackwelliä.

 

[finWeazel]

Painot olis jotain ~1500 Gt luokkaa, jos kerran valtaosa tensoreista on MXFP4 formaatissa. Arvioin laiskasti Deepseek V4 Flashin pohjalta joka on 284B parametria, valtaosa tensoreista MXFP4 formaatissa ja kokoa ~150 Gt.

Kai tällöin esim. 64 x A100 40GB eli 2560 Gt noin riittäisi muistiavaruuden puolesta. Tai sitten paljon pienempi määrä Blackwelliä.

Kannattaa lukea blogipostaus ja semianalysis tweetit. Suositellaan 64+ kiihdytinmäärää. Tarvii painojen lisäksi kv-cachen ja sitten päälle se miten monta käyttäjää että suorituskyky optimoituu. Moe:t jaetaan isolle kiihdytinmäärälle että muistiin jää tilaa kv cachelle . Cachen koko kasvaa käyttäjämäärän mukana. Ei ole suunniteltu batch size 1 käyttöön,.. en ole varma optimoidaanko myös eri kiihdyttimille prefill ja tokenien luonti .

 

[Halpuuttaja]

Kannattaa lukea blogipostaus ja semianalysis tweetit. Suositellaan 64+ kiihdytinmäärää.

Vilkaisin blogia joo, mutta koska "accelerator" on tosiaan hyvin epäspesifi termi, pidän mahdollisena samaa mitä itsekin arvuuttelit:

tai bloginkirjoittajalla ollut vain huonoja kiihdyttimiä tarjolla.

Itse mallihan on aktiivisilta parametreiltaan poikkeuksellisen harva, vain 16 eksperttiä 896:sta aktiivisena per token, mikä viittaa siihen ettei laskentatehoa tarvita ihan järjettömästi tuon pyörittämiseen.

edit: tietty kv-cachea varten aletaan tarviimaan isosti muistia kun palvellaan suurta määrää väkeä.

 

[finWeazel]

Itse mallihan on aktiivisilta parametreiltaan poikkeuksellisen harva, vain 16 eksperttiä 896:sta aktiivisena per token, mikä viittaa siihen ettei laskentatehoa tarvita ihan järjettömästi tuon pyörittämiseen.

Arvelen, että harvuus johtuu nimenomaan siitä, että malli optimoitu isolle määrälle kiihdyttimiä. per kiihdytin paljon laskentatehoa ja tilaa kv-cachelle.

Semianalysis tweeteissä oli hyvää kamaa siitä miten raskas kommunikaatio nodejen kesken on kimi3:lla ja tämä käytännössä myös tarkoittaa kimin olevan optimoitu käyttämään yksi räkki. Mielenkiintoista kun tässä nähdään miten iso malli on suunniteltu isolle kiihdytinmäärällä jaettavaksi alusta asti.

Mielenkiinnolla odotan nvidian blogipostausta kun optimoivat kimi3:en. Samaa tehneet deepseekin kanssa. Mxfp4 ja fp8 mäppääntyy hienosti nvfp4:een.

 

[user_timo]

Kiinalaiset open source mallit tykittää.
Kiihtyvällä tahdilla tuntuu nuo tulevan mukaan. Pitäisi ottaa testiin, että onko oikeasti esim tuollanen tarjouksen 68€/kk tilaus mitä vs Codex 200€/kk.

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Linkki: https://x.com/alibaba_qwen/status/2078759124914098291?s=46

 

[finWeazel]

Kiinalaiset open source mallit tykittää.
Kiihtyvällä tahdilla tuntuu nuo tulevan mukaan. Pitäisi ottaa testiin, että onko oikeasti esim tuollanen tarjouksen 68€/kk tilaus mitä vs Codex 200€/kk.

Pakottaa amerikkalaispajatkin julkaisemaan uusia sen sijaan että pidetään labrassa piilossa. Pakottaa myös siltä kannalta, että teknologia annettava kaikille käyttöön tai kiinalaiset vie markkinat. Kaikinpuolin hyvä juttu muiden kuin openai/anthropic/meta/google että tulee avoimia vaihtoehtoja. Tai no, ehkä google voittaa joka tapauksessa kun oli voittaja kuka tahansa niin googlen konesaleille on kysyntää.

Huhuissa ollut fable5.1 testauksen alla ja gpt6 opetuksen alla(isompi uusi malli).

 

[Halpuuttaja]

Kiinalaiset open source mallit tykittää.

Ja lisää on tulossa. Deepseek V4 malleista julkaistaan piakkoin uudet versiot (alkuperäiset oli "preview" versioita). Minimaxilta puolestaan The Informationin mukaan tulee M3 Pro, 2,7 biljoonan parametrin malli tällä vuosineljänneksellä. Valtava hyppy koossa heilläkin, kun M3 on 428 miljardia parametria.

 

[Makis]

Tässä muuten tokenien säästäjille hyvän oloinen lisäosa: GitHub - headroomlabs-ai/headroom: Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same answers. Library, proxy, MCP server.

Lupaa jopa yli 90% säästön tokeneissa. Tuo siis pakkaa ne kyselyt ja vastaukset ja siitä säästö.

 

[mailbag]

Lähti fable pois tilauksesta niin kokeilin nyt tuota Opus 4.8 että miten sillä lähtee, tuohon fableen ja 5.6 sol verrattuna ompa kyllä huonon tuntuinen malli, tuntuu kuin käyttäisi jotain flash pika versiota ilmaissivustolla mutta on vain hidas. Jatkuvasti aivan väärässä asioista mitä tulee koodiin, bugeihin ja ympäristöön, sanon vaikka että tämä ei sitten ole deploy ympäristö, tutki koodia vain staattisesti ja 1 kysymyksen jälkeen se koittaa pyörittää koodia ja ihmettelee miksi deployment ympäristön asioita puuttuu yms yms.

En kyllä ihan heti anna opuksen koskea mihinkään yhtään tärkeämpään koodinpätkään.

 

[mlackke]

En kyllä ihan heti anna opuksen koskea mihinkään yhtään tärkeämpään koodinpätkään.

Pakostakin tulee mieleen se vanha juttu että tyhmennetään vanhoja malleja että porukalla pakko siirtyä fableen...

 

[finWeazel]

Pakostakin tulee mieleen se vanha juttu että tyhmennetään vanhoja malleja että porukalla pakko siirtyä fableen...

Kaikki anthropic mallit paitsi fable/mythos olleet tyhmiä pari viikkoa 4.6:en julkaisun jälkeen. 4.6 julkaisussa priima, sit alkoi dumb claude hommat. Mulla paloi hermot claudecodeen niin hyvin, että ihmeitä pitää tapahtua, että anthropic:lta enää mitään ostaisin. Oli kyllä gpt:kin hetkittäin tyhmä, mutta ei samanlaisia viikosta viikkoon idioottimoodissa oloa kuin claudecodessa.

Anthropic lienee siirtänyt kapasiteetin api-asiakkaille ja kun heitä riittää niin tilauksissa saa dumb modea.

 

[McMaster]

Kyllä tuo Opus4.8 koodia vääntää tuossa ihan ok, GPT5.6 Sol xhigh sitten tarkistaa ja korjaa muutamat bugit mitä sinne tullut. Näin menee vielä hetken kun tuli max otettua Claudelle ja ihan Pro on vaan Codexilla. Vaihdan sitten varmaan ihan pelkkään Codexiin kun toi max tilaud Claudella loppuu.
Tällasta kokonaisuutta tällä hetkellä koodailen (tai siis LLM koodailee):

Metric	Value
Total tracked files	644
Source code files (ts/tsx/js/java/py/css/html)	275
Total lines of code	~61,900
TS/TSX files (incl. tests)	251 → 53,193 lines

Lines of code by area

Area	Files	Lines
Frontend src/ (TS/TSX, non-test)	123	30,375
Backend server/ (TS)	50	11,176
Tests	242	10,427
Scripts (ps1/cjs/mjs/js)	24	2,046
Android (java/gradle/xml)	15	307
Docs (Markdown)	19	3,652
JSON config/data	37	21,487

 

[McMaster]

Mutta juu, tällasia tuo GPT-5.6 löytää aina välillä tuon Opuksen jäljiltä, esim. tämä kun appin asetukset sivua muokkaillaan:

The structural review is positive, but I found one false credential claim: the UI says stored keys are “never shown in full again” while the same screen deliberately provides a Show control and the admin endpoint returns the full value. I’m checking the visual states and remaining interaction coverage before correcting that wording and any related gaps.

 

[mailbag]

Mutta juu, tällasia tuo GPT-5.6 löytää aina välillä tuon Opuksen jäljiltä, esim. tämä kun appin asetukset sivua muokkaillaan:

The structural review is positive, but I found one false credential claim: the UI says stored keys are “never shown in full again” while the same screen deliberately provides a Show control and the admin endpoint returns the full value. I’m checking the visual states and remaining interaction coverage before correcting that wording and any related gaps.

Juu mä otin omasta NAS softasta backupin ja laitoin Opuksen suunnittelemaan joku korjaus siihen ja sitten pastesin 5.6 maxille sen ehdotuksen ja se löys kyllä melkosen määrän isoja virheitä siitä ja kävi useamman kerran sama kun testasin, semmosia virheitä mitkä ihan joko kaataa koko softan tai saa sen tilanteeseen mistä ei ole ratkaisua. Jos sitten SOL vastauksen laittaa takaisin Opukselle niin se sanoo että sori sori mä tein isoja virheitä, olisi pitänyt olla tarkempi.

Mulla on kanssa semmonen oma cli multitool mikä tekee linuxissa ihan kaikenlaista, siinä on toiminto missä se ottaa ssh yhteyden serveriin ja sitten voi drag&drop tiedostoja siihen terminaali-ikkunaan ja tiedostot menee sftp yhteydellä täydellä 10G linjanopeudella tiettyihin paikkoihin esim NAS cache driveen, bindattu hotkeyhin että voin painaa vain nappulaa ja drag&drop terminaali aukeaa suoraan. Pyysin opusta rakentamaan semmoinen että kun on se drag&drop ikkuna auki niin nuolinäppäimillä saa sieltä target koneesta directory näkymän ja voi selata mihin kansioon haluaa että drop tapahtuu ja sit vaan tiputtaa kamaa sinne. Noh sehän meni tietenkin ihan pieleen opuksella, se latasi sitä directory näkymää millisekuntien välillä jatkuvasti uudestaan ja koko paska lagasi hirveästi, sitten laitoin effortin MAX tasolle, kesti noin 15min eikä mitään tapahtunut kunnes tuli vastaus jotain että 'Im going to skip this whole effort process and start fixing sorry for this tjsp'

???

 

[E1m088]

Mutta juu, tällasia tuo GPT-5.6 löytää aina välillä tuon Opuksen jäljiltä [...]

Sama homma MiniMax M3:n kanssa mutta pahempana: sol tekee hyvän suunnitelman, annan M3:n toteuttaa sen, laitan tuotoksen takaisin reviewlle sol:lle ja sieltä löytyy vaikka mitä, mitä ei ole tehty tai ole kunnossa, ja sit korjataan. Kai tossa jotain sol:n tokeneja säästyy noinkin, mutta turhauttaa toi M3:n saamattomuus. Opinpahan olemaan tekemättä pitkiä tilauksia vaikka "halvalla" sai.

 

[McMaster]

Itse laitoin tosiaan GPT:n tekemään tarkan suunnitelman isommalle toteutukselle ja se teki kyllä todella tarkan ja tarkasti speksatun planin. Tässä jo viikon verran kesäloman seassa ajellut sitä suunnitelmaa läpi niin, että codex antaa slicen claudelle jossa tarkasti aina speksattu mitä halutaan, mitä tiedostoja muokataan, mihin ei saa koskea, mitä testejä ajella. Käskyjä, että ei saa muuttaa esim. testin toleransseja tms. että saadaan joku testi läpi. Näillä se on mennyt usein niin, että siellä on pari kolme virhettä jotka GPT sitten korjaa ja antaa seuraavan slicen.

 

[McMaster]

Tällanen tullut yön aikana.

 

[jugih]

Pro planilla tuli tälläinen

 

[burmanm]

Isoille yrityksille tuollaisella ei toki ole väliä kun joutuvat API-maksuja kuitenkin käyttämään, mutta onhan se selvää että Anthropicilla on pienoinen ongelma laskujen kanssa ja se alkuperäinen syy koko Mythos/Fable estämiselle. Opus ei oikein pärjää GPT:lle ja Fablen ajaminen on selvästi aivan liian kallista, jotta se voisi korvata halvemmat mallit Anthropicilla.

Luetaankohan siellä hikihatussa kiinalaisten papereita miten saataisiin kuluja laskettua, vai toivotaanko vain että IPO saadaan maaliin keinolla millä hyvänsä ja sen jälkeen voidaan pohtia mitä tulevaisuudessa. Sekä OpenAI että kiinalaiset kun tuntuvat olevan kärjessä mitä tulee tehokkuuteen. Enkä mitenkään usko että loputtomasti isoja asiakkaita riittää, jos kulut saman asian ratkomiseksi ovat kymmenkertaiset Anthropicin malleja käyttäen.

 

[Makis]

Koska vaihtoehtoja on liikaa ja laiskottaa, niin suositelkaa jotain Clauden skillejä, joita kannattaa lisätä weppisovellukseen, jossa on erikseen frontti (React/TypeScript) ja bäkki (Flask). Minulla ei tämän kanssa ole tokeneista uupelo mutta onko jotain skillejä joihin kannattaisi panostaa? Voisi vihdoin kokeilla, oli minulla Impeccable mutta en oikein huomannut kauheasti eroa.

 

[Karhu III]

Luetaankohan siellä hikihatussa kiinalaisten papereita miten saataisiin kuluja laskettua, vai toivotaanko vain että IPO saadaan maaliin keinolla millä hyvänsä ja sen jälkeen voidaan pohtia mitä tulevaisuudessa.

Nykytilanne vaikuttaa myös ipoon. Fable on osittainen epäonnistuminen ja Opus laahaa perässä. Sonnet on tyhmä kuin saapas.

Sijoittajat tietysti katsovat vähän eri kantilta kuin käyttäjät ja Anhtropicilla lienee suunnitelmat tilanteen korjaamiseksi.

 

[finWeazel]

Nykytilanne vaikuttaa myös ipoon. Fable on osittainen epäonnistuminen ja Opus laahaa perässä. Sonnet on tyhmä kuin saapas.

Sijoittajat tietysti katsovat vähän eri kantilta kuin käyttäjät ja Anhtropicilla lienee suunnitelmat tilanteen korjaamiseksi.

En usko, että fable on epäonnistuminen siinä mielessä, että suurin osa rahasta tulee kalliin API hinnoittelun kautta ja siellä riittää asiakkaita enemmän kuin on konesalia tarjolla. Kuluttajabisnes/pienyritysbisnes on epäonnistuminen, kun kuukausitilaukseen ei riitä konesalikapasiteettia. Anthropicin kuukausitilaus ei ole minun mielestä enää millään tavalla kilpailukykyinen openai:n vastaavan kanssa. OpenAI tosin taisi satsata konesaleihin paljon enemmän kuin anthropic ja tästä paljon oli negatiivista juttua vuosi sitten, että openai:lle käy vielä huonosti kun liian isot sijoitukset konesaleihin, nyt sitten kävi niin että konesaleille onkin käyttöä. OpenAI:n iso riskinotto palkittiin.

Markkina ei liene niin pieni, että tilaa on vain yhdelle frontier ai yritykselle. Sekä openai, että anthropic voinevat menestyä, sitä en usko että openai, anthropix, spacex, meta, microsoft, google, amazon jne. kaikille on tilaa 10-15% siivulla (länkkäri) markkinasta. Muutama gorilla vie ison osan markkinasta ja muille jää muruset. Tilanne voi muuttua yhdessä yössä jos joku tekee merkittävän keksinnön mikä tuotteistuu nopeasti. Kitka avustimesta toiseen vaihtamisessa minimaalinen. Kiina säätänee niin, että siellä on vain kiinalaiset mallit firmoilla käytössä. Kiina suljettu markkina, esimerkkinä google, meta huono pääsy kiinan markkinoille tuotteillansa, sama käynee AI:n kanssa.

 

[user_timo]

Kimi K3 teki pelin ulkoasut ja GPT-5.6 kanssa nyt pientä säätöä.
Promptit lähti että Skidmarks & Slick 'n Slide hengessä TreeJS selaimessa pelattava peli.
Voisi jopa ajatella, että viilailen tuota ja siinä nyt yksi rata(lisää kenties myöhemmin), niin time attackia, parhaat ajat tietokantaan.
Ja tuolle joku sopiva domain - mitään järkeä?

 

[finWeazel]

Kimi K3 teki pelin ulkoasut ja GPT-5.6 kanssa nyt pientä säätöä.
Promptit lähti että Skidmarks & Slick 'n Slide hengessä TreeJS selaimessa pelattava peli.
Voisi jopa ajatella, että viilailen tuota ja siinä nyt yksi rata(lisää kenties myöhemmin), niin time attackia, parhaat ajat tietokantaan.
Ja tuolle joku sopiva domain - mitään järkeä?

VR:aan jumalaperspektiivistä ja vois jopa päätyä webbisaiteille peli uutisena. Perinteisiä pelejä webbisivuilla enemmän kuin tarpeeksi. Tätä vanhaa amigapeliä joskus miettinyt jumalaperspektiivistä vr:aan ja silleen että autot pomppis kohti taivasta/katsojaa kivasti. Nykyään kun koneissa laskentatehoa niin vois tehdä tollaseen "hiekkalaatikkoautoiluun" voxeleistä pelikentän ja sais nyppylät reviteltyä hajalle niin pelikenttä muuttuu kierros kierrokselta, oikeat urat, kivat partikkeliefektit jne.

 

[tjkoo]

Kimi K3 teki pelin ulkoasut ja GPT-5.6 kanssa nyt pientä säätöä.
Promptit lähti että Skidmarks & Slick 'n Slide hengessä TreeJS selaimessa pelattava peli.
Voisi jopa ajatella, että viilailen tuota ja siinä nyt yksi rata(lisää kenties myöhemmin), niin time attackia, parhaat ajat tietokantaan.
Ja tuolle joku sopiva domain - mitään järkeä?

Melko turhaa kun näitä on miljoona eikä niitä tekijän lisäksi kukaan jaksa pelata.

Tee mielummin jokin uusi juttu.

Näissä AI-tuotoksissa on vähän se että kaikki haluavat tehdä omansa, ei kukaan käytä toisten tekemiä kun voi tehdä itse hieman erilaisen / oman näköisensä. Sinänsä harmi.

 

[Karhu III]

En usko, että fable on epäonnistuminen siinä mielessä, että suurin osa rahasta tulee kalliin API hinnoittelun kautta ja siellä riittää asiakkaita enemmän kuin on konesalia tarjolla. Kuluttajabisnes/pienyritysbisnes on epäonnistuminen, kun kuukausitilaukseen ei riitä konesalikapasiteettia. Anthropicin kuukausitilaus ei ole minun mielestä enää millään tavalla kilpailukykyinen openai:n vastaavan kanssa.

Firmoissa sopparit umpeutuvat ja aletaan miettiä vaihtoehtoja. Tällä hetkellä Opus on yhtä kallis kuin GPT-5.6 Sol. Fable on tuplaten kalliimpi ja on vain hiukan parempi kuin Sol.

Anthropicin onni tietysti että sopparit tehdään yleensä vähintään vuodeksi.

 

[Mogi]

Googlekin saapui tänään taas paikalle pitkästä aikaa uudella 3.6 Flash julkaisullaan ja ilmeisesti on Sonnet 5 veroinen, mutta puolet halvempi käyttää.

Eiköhän tolle ihan hyvää käyttöä keksi, kun kumminkin Googlen halvimpia tilauksia saa lähes ilmaiseksi ja ei noista Clauden ja Codexin parin kympin plääneistä saa tällä hetkellä paljoa yhtään irti, ellei sitten päivittele jotain Tibon twitteriä ja oottele Codex resettejä jatkuvasti valmiina.

 

[finWeazel]

Firmoissa sopparit umpeutuvat ja aletaan miettiä vaihtoehtoja. Tällä hetkellä Opus on yhtä kallis kuin GPT-5.6 Sol. Fable on tuplaten kalliimpi ja on vain hiukan parempi kuin Sol.

Anthropicin onni tietysti että sopparit tehdään yleensä vähintään vuodeksi.

Anthropicin marginaalit ainakin mun käsityksen mukaan sellaiset ettei tuota tuskaa kilpailla hinnalla jos on pakko. Ei kannata hinnalla kilpailla kun kysyntää enempi kuin anthropic:lla konesalia. Tällä hetkellähän openai tekee juuri tätä hintakilpailua, mutta ei API puolella vaan pikkuasiakkaista max 200e/kk hinnalla. OpenAI julkaisi tänään, että 10miljoonan codex app käyttäjän raja rikkoontui.

Kenellä paras malli vaihtelee niin nopeaan, että en minä ainakaan osaa sanoa kuka on niskanpäällä vuoden päästä. Samasta syystä ei jaksa ylireagoida kun viikottain tulee joku uutinen. Enemmän kuin todennäköistä että nähdään useampia isoja uusia frontier malleja loppuvuoden aikana ja päälle pienet päivitykset kuin että kilpailuasema säilyisi staattisena. Mythos oli alkuvuodesta labrassa, en pidä mitenkään epätodennäköisenä että mythos2 olisi anthropic:lla labrassa jo käytössä vaikka seuraava julkinen päivitys on fable5.1.

Mulle aika se ja sama kuka noista vie kunhan kehitys jatkaa kehittymistä. Ei ole mitään omaa nahkaa pelissä oli se sitten openai, anthropic, google, amazon tms. Osakesalkussa on jotain, mutta nekin pääasiassa qqq:n ja sp500:en kautta niin voitti kuka voitti niin indekseistä se löytyy. Nvidiaa pitäs myydä edelleen vähemmäksi.

 

[mlackke]

Firmoissa sopparit umpeutuvat ja aletaan miettiä vaihtoehtoja. Tällä hetkellä Opus on yhtä kallis kuin GPT-5.6 Sol. Fable on tuplaten kalliimpi ja on vain hiukan parempi kuin Sol.

Eikai tuota voi noin suoranaisesti ajatella firmoissa. N+1 asiaa tulee mieleen mistä lopullinen..promptin/tuotoksen..jne hinta muodostuu.

Nakkaa junior devaajille Sonnet 5 niin loppulasku voi olla isompi mitä Fablen


ps. tässä olisi hyvä kisa Assyille, 64k demon sijaan saat käyttöön 64$ ja tavoite vibe-koodata mahdollisimman hieno demo

 

[mlackke]

Kenellä paras malli vaihtelee niin nopeaan, että en minä ainakaan osaa sanoa kuka on niskanpäällä vuoden päästä. Samasta syystä ei jaksa ylireagoida kun viikottain tulee joku uutinen.

Vähän itsekkin pohdin kun tulee luettua "Käytän ainostaan Mythos 2.1 Uber-high thinking ja poltan triljoona tokenia"...vaikka lopputulos olisi onnistunut myös 50% halvemmalla mallilla, joka olisi vaatinut hieman enemmän aikaa / planin käyttöä

allekirjoittanut vaihtaa mallia/reasoningia aina tarpeen/tavoitteen mukaan, ei ole vain yhtä mallia mitä käyttäisin aina.

 

[finWeazel]

Olen miettinyt, että miksi codex/claudecode on token epätehokkaita versus vaikka caveman ja muut lisähärpättimet. Syy taitaa olla yksinkertaisesti siinä, että openai/anthropic uskovat, että kun mallit paranevat vauhdilla niin olisi liian aikaista alkaa leipomaan kovin paljon mallikohtaista optimointa applikaatioon. Seuraava malli optimoi, ei kannata työkalussa optimoida. Toinen puoli tietenkin, kun asiakas maksaa tokeneista ja kilpailija ei pakota niin ei tarvi ottaa löysiä pois. Jos tätä vähän miettii pidemmälle niin siitä mitä työkaluntekijä ei lähde optimoimaan voi saada vinkkiä minkä olettavat seuraavien uusien mallien korjaavan?

Vaikka Boris Cherny on ärsyttävä niin upea podcast alla aiheesta missä juttelevat claude codesta, ai:sta ja ohjelmoinnin tulevaisuudesta.

Chapters:
00:00:00 - Early Claude Desktop Development
00:04:45 - Boris Cherny and Claude Code Origins
00:07:26 - From Side Project to Core Product
00:09:32 - Model Improvements Drive Growth
00:11:05 - Safety and Security Features
00:18:29 - Code Quality and Iteration
00:22:35 - The Future of Software Engineering
00:26:34 - Current Adoption at Anthropic
00:27:54 - New Skill Requirements
00:30:57 - Interface Evolution Beyond Command Line
00:33:25 - Model Access and Distribution
00:36:36 - Enterprise Adoption Ladder
00:40:35 - AI Scaling Laws and Training Data
00:41:51 - The SaaS Disruption Question
00:45:24 - Privacy and Competition Concerns
00:48:50 - COBOL and Legacy Code Migration
00:50:39 - The Future of Programming Languages
00:53:40 - Interface Philosophy and Visual Systems
00:56:24 - Organizational Change Management
00:59:21 - AI Personality and Social Behavior
01:00:52 - Future Development Focus
01:03:45 - Coding vs. Writing Quality Comparison

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Linkki: https://www.youtube.com/watch?v=7C_IHWkHKmU

 

[burmanm]

Olen miettinyt, että miksi codex/claudecode on token epätehokkaita versus vaikka caveman ja muut lisähärpättimet. Syy taitaa olla yksinkertaisesti siinä, että openai/anthropic uskovat, että kun mallit paranevat vauhdilla niin olisi liian aikaista alkaa leipomaan kovin paljon mallikohtaista optimointa applikaatioon. Seuraava malli optimoi, ei kannata työkalussa optimoida.

Veikkaan että kyseessä on amerikkalainen ajattelutapa kun on ylimääräistä rahaa poltettavana. Eli sen sijaan että panostetaan optimointiin ostetaan lisää rautaa. Kiinalaisethan joutuvat sitten keksimään optimointitapoja (ja ovat niitä tukun julkaisseet) koska eivät voi samalla ideologialla aina mennä.

 

[Karhu III]

ps. tässä olisi hyvä kisa Assyille, 64k demon sijaan saat käyttöön 64$ ja tavoite vibe-koodata mahdollisimman hieno demo

Compoista puheen ollen ilmoitin tänään Amiga emulaattorin OpenAI Build Week kilpailuun joka sulkeutuu tänään

 

[maxelee]

Pari kk tullut käytettyä AI:ta tekemään softaa omien tarpeiden pohjalta ja on tosi paljon saanut aikaan oikeasti järkevää ja hyödyllistä softaa.

En omaa koodaukseen liittyen mitään oikeaa osaamista, tullut vain seurattua Youtubesta koodaukseen liityviä videoita tosi monta vuotta.

Tullu tehtyä mm.
Garminiin ja Chromeen appejä
Kokonaisvaltainen videon esikäsittelylaitos
Davinci Resolveen ajanseuranta pluginin, exportilla josta näkyy veloitettava summa ja missä aika käytetty projektin sisällä
Omiin kotireeneihin progressiivistä overloadia automaattisesti lisääävän apin
Motion graphicsin automatisointai promptaamalla, joka toimii oikeasti itselle yhtä hyvin kuin perus jutut joita jouduin ennen vääntään After Effectsissä -> nyt vaan promptaa ja duunaa jotain muuta järkevää sillä välin kun ruksuttaa.
Omakotitalon papereita yms. dokumentointia varten oma appi, missä automatisointia ylläpitoon liittyen.

jne jne. Tullut tehtyä paljon ja paljon enemmän toimintoja kuin kukaan jaksaa lukea.

Kaikki näistä on erittäin käytettäviä omaan mieleen, videon käsittelyssä oli helpotus kun tiesi etukäteen paljon olemassa olevista WhisperX, yt-dlp, ffmpeg jne, mutta muissa ei ole oikein tarvinut mitään tietää. Ideaa vaan näppikselle ja versiointia perään. Nyt voisi vain hioo näistä parempia lisäämällä toimintoja.

Iso dilemma. Mitä tässä tehdä, kun saa aikaiseksi toimivaa koodia ja softaa mitkä on oikeasti helpottanut, nopeuttanut ja parantanut omaa elämää ilman mitään koodin oikeaa hahmotusta.
Tuntuu samanaikaisesti erittäin tärkeltä ja turhalta lähteä opettelemaan jotain koodauksen perusteita, jotta ymmärtäisi ja osaisi ohjata tätä tekoälyä paremmin tekemään "oikeita ratkaisuja".

Erittäin inspiroitunut olo, kun saanut aikaan softaa mikä oikeasti hyödyttänyt itseäni. Häiritsee kun ei osaa selittää logiikkaa, seurata miks AI:n ratkaisu oli hyvä/huono tai tietää milloin pitäis ohjeistaa AI:ta ottamaan toinen ratkaisu.

tldr: kumpi järkevämpi, python for beginners vai valmistunko vaan prompt engineeriks?

 

[thinknad]

tldr: kumpi järkevämpi, python for beginners vai valmistunko vaan prompt engineeriks?

Omasta mielestä hyödyllinen ymmärryksen taso tuossa mielessä vaatii muutakin kuin vain junioritason osaamisen tai jonkin ohjelmointikielen syntaksin ymmärtämisen. Eli täytyy käyttää aika paljon aikaa lukemiseen ja harjoitteluun, jotta pystyy järkevästi "haastaa" noita nykyisiä uusia malleja ja niiden ratkaisuja.

Edit:
Arkkitehtuurin ymmärtäminen on mielestäni tärkeämpää AI:n kanssa kuin "pelkkä" koodausosaaminen. Mutta arkkitehtuuria voi olla vaikea hahmottaa ilman koodausosaamista.

Kuitenkin ihan ok kombo olisi - mikäli mahdollista - kevyt koodausosaaminen + kohtuullinen arkkitehtuurin ymmärrys.

 

[maxelee]

Omasta mielestä hyödyllinen ymmärryksen taso tuossa mielessä vaatii muutakin kuin vain junioritason osaamisen tai jonkin ohjelmointikielen syntaksin ymmärtämisen. Eli täytyy käyttää aika paljon aikaa lukemiseen ja harjoitteluun, jotta pystyy järkevästi "haastaa" noita nykyisiä uusia malleja ja niiden ratkaisuja.

Edit:
Arkkitehtuurin ymmärtäminen on mielestäni tärkeämpää AI:n kanssa kuin "pelkkä" koodausosaaminen. Mutta arkkitehtuuria voi olla vaikea hahmottaa ilman koodausosaamista.

Kuitenkin ihan ok kombo olisi - mikäli mahdollista - kevyt koodausosaaminen + kohtuullinen arkkitehtuurin ymmärrys.

Näin olin ajatellutkin että ihmiset jotka oikeasti osaa koodata näkee tämän. Toi beginners python oli vaan kärjistys, mutta toki täytyy ne oikeat alkeetkin tässä opetella.

Pitää tässä aloitella opettelemaan vaan fiilistelykoodauksen ohessas, arkkitehtuurin ymmärtäminen tulee varmaan siinä kun joutuu itse käsin virittelemään toimivaa softaa kasaan. Vaikka on toimivaa softaa, niin tuntuu että on oikeasti välttämätöntä ymmärtää mitä tapahtuu ja miksi juuri ton haastamisen takia.

En tiedä kuinka paljon loppujen lopuksi sitä tulis sit oikeasti haastettua ja muokattua, onko se sellasta 10% hiomista mikä on turhaa jos ei aio shipata sitä mihinkään eteenpäin omasta käytöstä. Tässä vain tuntuu koko ajan kristallisoituvan kuinka tärkeä olis ymmärtää yhtään mitään mitä tekoäly mahdollistaa ja miten omaa jatkoa varten IT alalla.

 

[thinknad]

Voisi jopa olla, että jos tekoälyä pyytäisi generoimaan erilaiset sopivat kaaviot systeemin arkkitehtuurista, niitä voisi tarkastella pelkällä teoreettisella arkkitehtuurinäkökulmalla ilman mitään kannanottoa siellä kooditasolla.

Esim. jos tiedät, että palvelun täytyy tukea suurta määrää yhtäaikaisia käyttäjiä, ja kaavion mukaan koko softa on yksi iso monoliitti ilman rinnakkaistuksen mahdollisuuksia, niin tiedät, ettei se todennäköisesti tule toimimaan hyvin.

Tai jos softa pitää saada integroitua tarvittaessa erilaisiin tietovarastoihin, mutta kaaviot kertoo, että suoria, vaikkapa MySQL -viittauksia on leivottu sisään joka toiseen komponenttiin, niin tiedät että ei vastaa haluttua.

Sitten tietysti on oma asiansa, etenkin jos koodi on hyvin testattua, että onko mikään ongelma muuttaa tuollaisia asioita lennosta hyvän AI -työkalun avulla. Eli onko se arkkitehtuurikaan enää niin tärkeää kuin ennen.

 

[Heimolainen]

Omasta mielestä hyödyllinen ymmärryksen taso tuossa mielessä vaatii muutakin kuin vain junioritason osaamisen tai jonkin ohjelmointikielen syntaksin ymmärtämisen. Eli täytyy käyttää aika paljon aikaa lukemiseen ja harjoitteluun, jotta pystyy järkevästi "haastaa" noita nykyisiä uusia malleja ja niiden ratkaisuja.

Edit:
Arkkitehtuurin ymmärtäminen on mielestäni tärkeämpää AI:n kanssa kuin "pelkkä" koodausosaaminen. Mutta arkkitehtuuria voi olla vaikea hahmottaa ilman koodausosaamista.

Kuitenkin ihan ok kombo olisi - mikäli mahdollista - kevyt koodausosaaminen + kohtuullinen arkkitehtuurin ymmärrys.

Oma näkemys on, että arkkitehtuurin merkitys kasvaa kokoajan. Tässä kun nyt melkein vuoden tehnyt paljonkin AI avusteista koodausta ja vuoden alusta siirtänyt about kokonaan koodin tekemisen AI:lle, niin muutamia huomioita kyllä tullut. Itse nykyään valitsen kielen sen perusteella, mikä on tehokkain tiettyyn toimintoon. Joitakin asioita testailen vielä itse, koska haluan ymmärtää, miten ne toimii, mutta en nyt tiedä onko tämäkään kohta tarpeellista.

Vuosi sitten syksyllä pystyi jo tekemään aika hyvin yksittäisiä komponenttikokonaisuuksia, vuoden alussa pieniä softia kokonaan, nyt tekee jo aika "suuria" yhdelle devaajalle. Muutama 200-300k rivin softa, yksi 500k+ cad softa. Mallit on kehittynyt aika kivasti ja nuo haarniskat alkanut olemaan oikeasti käytännöllisiä. Reverse engineeraus on aika hauska laji, about kaikki lokaalit softat ja niiden featuret alkaa olemaan toistettavissa. Tulee tehtyä jopa slaidit nykyään html:llä.

 

[maxelee]

Oon itse niin käytännön oppija, että tekis mieli vaan promptata tuota tietotaitoa eteenpäin pyytämällä sitä esimerkiksi selittämään, haastamaan tms. mua ennenkun voidaan edetä koodin kanssa. Mutta tässäkin voi olla liikaa luottoa AI:n todenmukaisuuteen.

 

[thinknad]

Oon itse niin käytännön oppija, että tekis mieli vaan promptata tuota tietotaitoa eteenpäin pyytämällä sitä esimerkiksi selittämään, haastamaan tms. mua ennenkun voidaan edetä koodin kanssa. Mutta tässäkin voi olla liikaa luottoa AI:n todenmukaisuuteen.

Itsellä myös epäilys, että jos oma tietotaito ei riitä kyseenalaistamaan jotain AI:n selityksiä, niin voi mennä "väärät mielipiteet" läpi parhaina käytäntöinä.

 

[thinknad]

Sitten noissa "parhaissa käytännöissä" tulee myös uusi näkökulma, kun AI muuttaa sitä ohjelmistokehitysprosessia.

Jotkut asiat ovat/olivat parhaita käytäntöjä syistä, jotka liittyvät suoraan siihen tapaan miten ohjelmistoja on kehitetty, esim. tiimit, kehittäjien määrä jne. Sellaiset asiat eivät välttämättä enää olekaan yhtä merkityksellisiä, eikä niiden takia enää kannatakaan uhrata joitain toisenlaisia ominaisuuksia.
Sitten taas monien merkitys pysyy ennallaan.

Jotta niitä käytäntöjä pystyy soveltamaan oikein, pitäisi ymmärtää mistä ne juontuvat, eikä pelkästään tietää niiden olemassaolosta tai muistaa niitä ulkoa.

 

[Heimolainen]

Itsellä myös epäilys, että jos oma tietotaito ei riitä kyseenalaistamaan jotain AI:n selityksiä, niin voi mennä "väärät mielipiteet" läpi parhaina käytäntöinä.

Tai et ole osannut kertoa, mitä haluat tehdä tarpeeksi tarkasti ja malli sitten täyttää tyhjät kohdat omalla ”päättelyllä”.

 

[finWeazel]

tldr: kumpi järkevämpi, python for beginners vai valmistunko vaan prompt engineeriks?

Jos ei kiinnosta nippelit niin opiskelee "alalta" vain isot linjat ja jättää detailit kuten ohjelmointikielen syntaxin ai:lle. AI on tänään huonoin mikä se tulee koskaan olemaan, jos ei jo nyt niin pian hyvin harva ammattilainenkaan tekee parempaa koodia hyvästä speksistä kuin paras ai. Toisaalta jos speksi ja vaatimukset on epäselviä niin pätevä ihminen osaa parsia kasaan jotain järkevää tai ainakin kysyä tarkennukset, AI ei. Se missä ihminen voi "koodauksessa" auttaa on, että isot linjat kuten sopiva arkkitehtuuri. Pyytää kasan spaghettia yhteen tiedostoon vai osaa pyytää sopivalla tavalla modulaarisen ja testattavan härpättimen josta voi muutella/vaihdella osia tarpeen mukaan. Jos haluat jostain liikeelle niin kuvan kirja on minusta loistava

Tuohon päälle jotain omaan aihealueeseen kiinnostavia youtube-videoita softa-arkkitehtuurista/lessons learnt esim. seminaareista niin isot linjat saa riittävään vibeen. Ammatikseen jos haluaa tulevaisuudessa tehdä niin tutkii tarkasti ja yrittää ymmärtää kun tulee paikkoja missä on iso ongelma. Ongelmia ratkomalla oppii missä meni pieleen ja seuraavalla kerralla paremmat ohjeet ai:lle. Koodia silti lukisin sokkonakin. Jos tuntuu, että näyttää jollain tavalla typerältä mitä ei voi ymmärtää kyselee ai:lta että miksi tehtiin näin ja olisiko parempaa tapaa olemassa.

 

[mailbag]

Just kattelin että oli codexin viikkobudjetti lopussa ja pari kolme päivää resettiin, odotetaanko vai ei, join sitten kahvit ja menin resetoimaan niin olikin just tullut ilmainen resetti jostain niin säästyi

Claudelle tuli kanssa ne oliko 85€ ilmaistokeneita niin ihan mielenkiinnosta testailin mitä juttujen tekeminen maksaa jos joutuisi api asiakas olemaan. Lisäsin omaan CLI työkaluun toimintoja niin noin 5€ per toiminnon lisäys näköjään maksoi ja isomman toiminnon lisäys toiseen softaan maksoi 20€.

 

[valexi]

Mistä noi resetit näkee ja mistä voi resetoida, jos quota täynnä?

 

[maxelee]

Jos ei kiinnosta nippelit niin opiskelee "alalta" vain isot linjat ja jättää detailit kuten ohjelmointikielen syntaxin ai:lle. AI on tänään huonoin mikä se tulee koskaan olemaan, jos ei jo nyt niin pian hyvin harva ammattilainenkaan tekee parempaa koodia hyvästä speksistä kuin paras ai. Toisaalta jos speksi ja vaatimukset on epäselviä niin pätevä ihminen osaa parsia kasaan jotain järkevää tai ainakin kysyä tarkennukset, AI ei. Se missä ihminen voi "koodauksessa" auttaa on, että isot linjat kuten sopiva arkkitehtuuri on sopivat. Pyytää kasan spaghettia yhteen tiedostoon vai osaa pyytää sopivalla tavalla modulaarisen ja testattavan härpättimen josta voi muutella/vaihdella osia tarpeen mukaan. Jos haluat jostain liikeelle niin kuvan kirja on minusta loistava

Tuohon päälle jotain omaan aihealueeseen kiinnostavia youtube-videoita softa-arkkitehtuurista/lessons learnt esim. seminaareista niin isot linjat saa riittävään vibeen. Ammatikseen jos haluaa tulevaisuudessa tehdä niin tutkii tarkasti ja yrittää ymmärtää kun tulee paikkoja missä on iso ongelma. Ongelmia ratkomalla oppii missä meni pieleen ja seuraavalla kerralla paremmat ohjeet ai:lle. Koodia silti lukisin sokkonakin. Jos tuntuu, että näyttää jollain tavalla typerältä mitä ei voi ymmärtää kyselee ai:lta että miksi tehtiin näin ja olisiko parempaa tapaa olemassa.

Kiitos tästä, otan luettavaksi.

Ihan vielä en oo varma missä määrin haluun tän kanssa työskennellä, vähintään jatkaa omien työkalujen kehittämistä ja turvata omaa osaamista tässä.
Mielenkiintona olis kyllä edetä työpaikkaan, jossa tätä kehitystä kannustettaisiin enemmän niille jotka ovat siihen kykeneviä. Paljon jää automatisoimatta systeemejä perus IT työssä, kun siiloutuneiden ryhmien ongelmia vois sieltä ryhmien sisältä lähteä alustamaan omilla ratkaisuilla AI:ta hyödyntäen. Sen jälkeen vois oikeat koodaajat tarvittaessa tsekkaa et mitä toimintoja nää ryhmät tarvii kun olis alustava softa alla.

 

[mailbag]

Mistä noi resetit näkee ja mistä voi resetoida, jos quota täynnä?

Mä käytän codex cli ja se ainaa startissa sanoo kuinka monta on jäljellä ja /usage komennolla niitä voi tarkistaa ja käyttää.

Oman viikkoquotan näkee täältä https://chatgpt.com/codex/cloud/settings/analytics#usage