AI-koodausavustimet, keskustelua AI-avustetusta koodaamisesta/skriptaamisesta/dokumentoinnista/...

[El Toro]

Tämmöinen tuli vastaan:

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Linkki: https://x.com/i/status/2037254607001559305

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Linkki: https://x.com/i/status/2037254609455243503

 

[kvjanhun]

Nonni, sepäs on juuri, mitä itse koin tällä viikolla. Viikkolimitti riitti isohkoon refaktorointiin, mutta pari kertaa jyrähti 5 h seinä vastaan aika yllättäen. Kiva kiva. Noh, noilla kellonajoilla jää vielä ihan siedettävät ikkunat Suomessa käskyttää Claudea, mutta kyllähän tuo nyt vähän siltä haiskahtaa, että vähemmän saa samalla rahalla.

 

[Karhu III]

Claudella taitaa mennä hyvin. Liiankin hyvin. Tokenit kallistuvat.

Tarkoittaa että muiden on parannettava palvelua ja laskettava hintoja jos haluavat pysyä mukana.

 

[finWeazel]

Claudella taitaa mennä hyvin. Liiankin hyvin. Tokenit kallistuvat.

Tarkoittaa että muiden on parannettava palvelua ja laskettava hintoja jos haluavat pysyä mukana.

Ollaan varmaan lähes siinä kohtaa missä tulee extra kalliita palveluita. Anthropicin uudesta parhaasta mallista "prohibitive expensive to run at scale". Lienee iso malli ja vaatii enemmän laskentatehoa ja järeimmät raudat(ei mahdu vanhojen kiihdyttimien muistiin) Varmaan mennään siihen, että ne firmat jotka haluavat parasta maksavat paljon,... Kuluttajille jotka haluaa 20e/kk, 200e/kk tilauksen jääpi olemattoman pienet token-rajat tai pienempi malli käsiin.

Nvidialla oli vastaavaa raudasta, että vera rubin + lpu:lla saadaan latenssi painettua alas, mutta hinta per token pompsahtaa kun tarvitaan enemmän rautaa. Osa firmoista maksanee siitä, että vastaukset tulevat merkittävästi nopeammin versus toisilla ei ole niin kiire. Onhan siinä puolensa, jos maksat 500ke/vuosi devaajasta niin annat hänelle AI-avustimen joka iteroi 5-10x kertaa nopeammin vaikka tokenit maksavat ... paljon. Suomessa vastaava devaaja maksaa 50ke/vuosi ja tokenomics on aika erilainen kun tokenien hinta suhteessa palkkaan ihan eri tasolla kuin new york, piilaakso yms.

--

Clauden idioottimoodia voi näemmä väistellä sillä, että pakottaa pyynnöt aina .plan:in läpi. Ihan jokainen juttu "suunnittele ensin" vaikka oltaisiin jo suorittamassa aikaisemmin tehtyä suunnitelmaa.