AI-koodausavustimet, keskustelua AI-avustetusta koodaamisesta/skriptaamisesta/dokumentoinnista/...

Tuo 5.6-sol Ultra nyt sitten kokeiltu, laitoin sille pyynnön tehdä review repon dokumenteille, että ovat ajantasalla ja sen jälkeen pyysin korjata ne.
Siinä tuo yhteensä tunnin verran puuhasteli aliagenttiensa kanssa ja sai todella paljon aikaiseksi. 28% 5h usagesta maksoi.
 
Näin lyhyellä testillä osaa ymmärtää monimutkaisia kokonaisuuksia taas paremmin, eli on taas hieman fiksumpi kuin aiempi.
Ja kuulemma frontend tekeminen olisi parantunut X:n mukaan hyvin - ei kokemusta.

Edit: lyhyt testi = 158M tokenia.
 
Viimeksi muokattu:
Tuota Ultra tilaa kun tässä enemmän pyöritellyt, niin tuo on sellainen "lähden laukalle" -tila.
Pyytää korjaamaan testejä, niin hetkessä se on korjailemassa kuitenkin myös esim manual.md aivan muita asioita jne.
 
Tuota Ultra tilaa kun tässä enemmän pyöritellyt, niin tuo on sellainen "lähden laukalle" -tila.
Pyytää korjaamaan testejä, niin hetkessä se on korjailemassa kuitenkin myös esim manual.md aivan muita asioita jne.
Token Afterburner laitettu päälle

FA18_on_afterburner.jpg
 
Ihan hyvin, tässä kuluneen vuorokauden aikana taidettu resetoida GPT rajat 2 vaiko jopa 3 kertaa. Nyt taas äsken oli resetoitunut, nyt voisi taas paukuttaa menemään Ultralla, äskenkin pääsin vasta 40% 5h rajaan.
Tällä 200€ tilauksella en kyllä allekirjoita yhtäkään kirjoitusta X:ssä miten rajat eivät muka riitä mihinkään 5.6 kanssa.
 
5.6 tosiaan lähtee laukalle jo high tasolla. Korjasin testiä niin eikös se seuraillut hieman headereita ja päätti sitten korjata asiaan mitään liittymättömät olemattomat lähinnä kosmeettiset varoitukset parista tiedostosta, jotka includettivat samaa headeria.

Kiva diffailla muutoksia jälkeenpäin, kun AI muuttelee vähän joka paikasta jotain. Toki AI:han senkin vianselvityksen sitten hoitaa ainakin OpenAIn mielestä.

Täytyy parantaa ohjeistuksia, jos tuo nyt moisista välittää. Minulla on tarkat ohjeet, että funktiot kommentoidaan NÄIN AINA, mutta eipä tuo juuri kommentoi muuten kuin pyytämällä.
 
Jossain määrin ehkä prepattava koodipohjaa agenteille. Ts. hylätä ajatukset siitä, että on todo/tech debt:ia koodissa/huonoa dokumentaatiota. Ottaa viikon/kaks aikaa pelkkään siivoamiseen. Jos on spaghettia niin refaktoroidaan ja lisätään testit. Pyrkii saamaan nätin koodipohjan missä ei enää ole side questeja jäljellä. Uuden kanssa toki helpompaa kun voi lähteä tdd:lla ja modulaarisuudella liikenteeseen.

Sen kyllä huomannut, että oli x tai y agentti käytössä niin jos on huonoa kommenttia/koodia niin voi tapahtua ikäviä asioita. Lähtee korjaileen sillon kun ei pitäisi tai ottaa esimerkin huonosta rakenteesta ja syntyy lisää teknistä velkaa.

Koodinlaatua voi ajatella nyt eri tavalla kun kone tekee tunnottomasti siivoamista päivissä missä ihmisellä voisi mennä kuukausia. Viikoissa migraatioita missä ihmisellä menisi vuosia. Testien lisääminen, että siivoaminen/refaktorointi voidaan varmistaa toimivaksi, no problem. Liian iso ryteikkö, polkastaan uus tyhjästä, no problem.
 
Jossain määrin ehkä prepattava koodipohjaa agenteille. Ts. hylätä ajatukset siitä, että on todo/tech debt:ia koodissa/huonoa dokumentaatiota. Ottaa viikon/kaks aikaa pelkkään siivoamiseen. Jos on spaghettia niin refaktoroidaan ja lisätään testit. Pyrkii saamaan nätin koodipohjan missä ei enää ole side questeja jäljellä.
Ja sitten ilmestyy GPT5.7 tai vaihdetaan Claudeen ja refaktorointia voikin sitten jatkaa iteratiivisessa hengessä, kun uusi malli ei pidäkään edellisen tekosista.

Edit: mutta jottei menisi vain negatiiviseksi, niin kyllä tuo myös korjaa tekosensa nätisti kun sille huomauttaa. Ja kontekstin ja aputiedostojen myötä oppii ainakin hetkeksi.
 
Ja sitten ilmestyy GPT5.7 tai vaihdetaan Claudeen ja refaktorointia voikin sitten jatkaa iteratiivisessa hengessä, kun uusi malli ei pidäkään edellisen tekosista.
Hyvä koodi on hyvää, tekninen velka on velkaa. Kun on fixmet, todot ja huonot dokumentaatiot korjattu + testit lisätty niin pysyy AI paremmin kärryillä oli se sitten openai, anthropic, google tai joku muu. Ei tarvi enää kärsiä siitä kun AI löytää huonon esimerkin/dokumentaation/todo/fixme ja lähtee täysin sivupoluille.

Toimii kyllä ihmistenkin kanssa. Pragmatic programmer - broken windows
 
Viimeksi muokattu:
Tälläisessä repossa GPT-5.6-Sol seikkailee ilman mitään ongelmia. Aivan uskomattoman paljon tänään sain aikaseksi, no tulihan tuossa jo vaimolta kommenttia että pitääkös sitä lomalla koodailla, kun tein tässä 12h päivän näköjään huomaamattani.

Tuossa olen yritättänyt aina pitää kiinni siitä että
- dokumentointi ja kommentointi on kunnossa
- testit löytyy
- agents.md:t yms ohjeet
1783708302120.png
 
Itse keksin itselleni vihdoin ja viimein kunnollisen käyttötarkoituksen AI :lle. Erästä lapsena/nuorena lukemaani kirjasarjaa ei koskaan ole suomennettu loppuun ja 4 viimeistä kirjaa on saatavilla vain ruotsiksi ja minä en ruotsia juuri osaa. Keskustelin asiasta Claude Sonnetilla ja nykyään on tosiaan mahdollista kääntää kirja(t) käyttämällä tokeneita/balancea. Ajelin tuossa vähän testejä ja suomennos on ihan ok laatuinen, muutamia hassuja virheitä siellä täällä, ainakin eka luvun osalta. Kirjan käännös maksoi noin 4$ balancea Sonnet 5-mallilla. Jäin kuitenkin miettimään, että saisinko vielä paremman käännöksen etevämpää mallia käyttämällä, esim Opus ja ampuuko kulut katosta läpi?

Kiitoksia jos jaksat vaivautua vastaamaan, ymmärrän että tämä ei varmasti ole AI mallin ydinosaamista, mutta ihan ok jälkeä tuo teki jo nyt. Itse olen koko AI kanssa, aloittelijan tasolla.
 
Screenshot_20260711_071815.png


Tuli tuo Sol nyt myös plus tilaukseen niin tuli kokeiltua noita uusia UI kykyjä, teki musiikintoistoserverin ja siihen web playerin, pyysiin DEC VT320 amber monochrome CRT tyylisen teeman siihen ja omasta mielestä toimitti aika hyvin, kyllä kelpaa, lisäsi jopa pienen old school blurrin kaikkeen tekstin selaukseen
 
Täytyypä kokeilla Clauden (Opus 4.8 / Sonnet 5 / Fable) kykyjä UI rakentelussa, saako niillä mitään järkevää aikaiseksi. Itsellä vain perus tilaus, niin saa nähdä miten käyttörajat riittää.

Tuo gpt-5.6 tuotos näyttää jo sellaiselta, että enempää "taitoa" ei tarvita. Näyttäisi että koko paketin saa alusta loppuun hoidettua. Oma kokemus gpt:n vanhemmista malleista ettei web UI tunnu oikein taittuvan muutoin kuin hyvin yksinkertaisena. Hyvin toimii kyllä teknisesti, mutta esteettisyys jää kouluprojektin tasolle.
 
Vaimon veljellä on startup jossa kehittänyt omaa laitekeksintöä. Ei ole ohjelmointiosaamista, mutta Codexilla rakentanut käyttöliittymän ja laitteelle oman firmiksen. Ihan pätevä systeemi kun tutkin koodia.
 
Itse keksin itselleni vihdoin ja viimein kunnollisen käyttötarkoituksen AI :lle. Erästä lapsena/nuorena lukemaani kirjasarjaa ei koskaan ole suomennettu loppuun ja 4 viimeistä kirjaa on saatavilla vain ruotsiksi ja minä en ruotsia juuri osaa. Keskustelin asiasta Claude Sonnetilla ja nykyään on tosiaan mahdollista kääntää kirja(t) käyttämällä tokeneita/balancea. Ajelin tuossa vähän testejä ja suomennos on ihan ok laatuinen, muutamia hassuja virheitä siellä täällä, ainakin eka luvun osalta. Kirjan käännös maksoi noin 4$ balancea Sonnet 5-mallilla. Jäin kuitenkin miettimään, että saisinko vielä paremman käännöksen etevämpää mallia käyttämällä, esim Opus ja ampuuko kulut katosta läpi?

Kiitoksia jos jaksat vaivautua vastaamaan, ymmärrän että tämä ei varmasti ole AI mallin ydinosaamista, mutta ihan ok jälkeä tuo teki jo nyt. Itse olen koko AI kanssa, aloittelijan tasolla.
Vaihtoehtoina on testata erityisesti kääntämiseen kehitettyjä kielimalleja 30 päivän ajan ilmaiseksi DeepL:n ja Supertextin palveluissa. En ole itse näitä kokeillut, mutta hyvällä lykyllä saat kaikki neljä kirjaa käännettyä ilmaiseksi ihan kelvollisella kielellä.

Jos omassa koneessa on näytönohjaimessa runsaasti muistia, translategemma on avoin malli, joka hallitsee suomen kielen hyvin, mutta paras laatu saadaan todennäköisesti englanti–suomi-parina. Jos sun kirjat olisi saatavilla englanniksi, se olisi todennäköisesti paras kielipari suomennoksille kaikissa malleissa.
 
X:ssä tuli vastaan aiemmin joku ilmeisesti OpenAi työntekijän twiitti, että näkevät ihmisten promptaavan 5.6:sta kuten 5.5:sta. 5.6:lle kannattaisi antaa selkeät työskentelyrajat ja päämäärä milloin työn katsotaan olevan valmis.

Eli ilmeisen innokas malli on 5.6.
 
X:ssä tuli vastaan aiemmin joku ilmeisesti OpenAi työntekijän twiitti, että näkevät ihmisten promptaavan 5.6:sta kuten 5.5:sta. 5.6:lle kannattaisi antaa selkeät työskentelyrajat ja päämäärä milloin työn katsotaan olevan valmis.

Eli ilmeisen innokas malli on 5.6.
Tykkään tästä tavasta promptata jos toimii. Tuo tukisi hyvin sitä, että alkaisi tekemään (isompia) taskeja tiketteinä linear/jiraan mikro-promptaamisen sijaan.

Toinen puoli, että jos oletetaan että mallit viisastuvat tulevaisuudessa niin jos voi määritellä mita ja jättää miten ai:lle niin voi löytyä luovempia parempia toteutuksia kuin mitä itselle tulee mieleen. Mitn tasolla tietty pitää olla projektin yleiset säännöt ettei luovuus vuoda yli väärällä tavalla.
 
Tuli huomattua nyt ensimmäistä kertaa (ehkä Claude Coden päivityksestä johtuen?) Sonnet 5:lla, että sekin näköjään laittaa manuaalimoodissakin agentteja välillä päälle kysymättä ja vielä aivan turhaan. Itsellä on tuo halvin parin kympin tilaus, niin saa olla aika tarkka tuon käytön kanssa. Yleensä omiin promptailuihin menee yleensä muutama tuhat tokenia per prompti tuon UI:lla vilahtavan laskurin mukaan, joskus ehkä ~10K.

Yksinkertainen "hei, web-ui:ssa ei näy hover popuppia kun uusi adapteri on käytössä, voitko implementoida sen samalla lailla kuin toisessakin" -prompti pisti päälle taustalle agentin, joka vei +30K tokenia, ja vastasi että "joo popuppi on jo toteutettu". (Kyseessä oli siis käyttäjän virhe tai jokin hetkellinen bugi, kun popuppi ei itselle ilmestynyt aiemmin.).

Ilmeisesti noissa on (sen enempää konfiguroimatta ainakin) niin iso overheadi, että tausta-agenteille ei kannata antaa kuin suhteellisen isoja tehtäviä - vielä kun saisi itse päättää mitä tehtäviä niille annetaan. Mutta siihenhän tuo koko agenttihimmeli toisaalta kai on tarkoitettukin, että ne auttavat hoitamaan isompia kokonaisuuksia kerralla.

Toinenkin kerta ehti tässä lähteä jo aliagentti käyntiin. Siinäkin hypättiin saman tien +20K. En katsonut mihin asti lopulta nousi. Nopea tuntuma on, että tuo Claude kirjoittaa niille agenteille liian pitkät selostukset, ja samoin agentit vastaavat turhan pitkillä tutkielmilla takaisin. Yleensä tällaisessa harrastelukehityksessä rivin tai parin promptit on riittäneet enemmän kuin hyvin välittämään keskeiset asiat.
 
Mitä ketjun devaajat käyttävät ympäristönä, Cursoria kukaan? Onko toimenpiteitä tai kokemuksia tokenien optimoinnista työkalutasolla? Cursor rakentaa omanlaisensa indeksin kun taas Antigravity ei kenties niin hyvää sellaista. Onko siis havaintoa että joku ympäristön olisi fiksumpi mitä LLM:lle pilveen lähettää?

Entä promptaus, onko enemmän vibeä tai työkalun tarjoamaa Planning modea ja siitä sitten Agentti-moden kautta menestykseen? Onko erinäisiä specsaus frameworkkeja käytetty onnistuneesti kuten OpenSpec ja vastaavat?

Edit: kiteytettynä oletteko yrittäneet optimoida tokeneita vai menty enemmän "rauta on halpaa, työtunnit eivät" eli tässä: tokenit ovat kohtuullisen hintaisia , aika ei ole?
 
Mitä ketjun devaajat käyttävät ympäristönä, Cursoria kukaan? Onko toimenpiteitä tai kokemuksia tokenien optimoinnista työkalutasolla? Cursor rakentaa omanlaisensa indeksin kun taas Antigravity ei kenties niin hyvää sellaista. Onko siis havaintoa että joku ympäristön olisi fiksumpi mitä LLM:lle pilveen lähettää?

Entä promptaus, onko enemmän vibeä tai työkalun tarjoamaa Planning modea ja siitä sitten Agentti-moden kautta menestykseen? Onko erinäisiä specsaus frameworkkeja käytetty onnistuneesti kuten OpenSpec ja vastaavat?

Edit: kiteytettynä oletteko yrittäneet optimoida tokeneita vai menty enemmän "rauta on halpaa, työtunnit eivät" eli tässä: tokenit ovat kohtuullisen hintaisia , aika ei ole?
Cursor ja antigravity molemmat on kilometreja jäljessä openai/anthropic. Kaikki työkalut yrittävät optimoida kontekstin kokoa. Se mikä mulla eniten auttoi niin projektin dokumentaatio, agentti ohjeet ja koodi pieniin modulaarisiin palasiin että AI:n on helppo kasata pieni mutta relevantti konteksti. Toinen hyvä on ollut testailla miten paljon ajattelutyötä eri taskit oikeasti vaativat, aina ei tarvi parasta mallia.

Rahalla takaisin aikaa ja vähemmäksi vanteekiristystä. En suostuisi tänään käyttämään kuin openai:ta. anthropic:iin meni luottamus dumb claude hommissa kevään aikana ja fable5 pian vain api-hinnalla == kallista versus openai 5.6.

Antigravity ja cursor, noh,... ne on pahasti jäljessä ja niissä on huonommilla parametreilla openai/anthropic mallit käytössä kuin mallintekijöiden omissa työkaluissa. Google ja cursor omat mallit ei niin häävejä tänään. Tilanne voi toki muuttua nopeasti.
 
Viimeksi muokattu:
Tässä kerätty lisää kokemuksia tuosta GPT-5.6-Sol Ultrasta. Vedän hieman sanojani pois, että se aivan laukalle lähtee.
UItra kaikkine subagentteineen on vallan loistava isoihin töihin, kunhan sille ojentaa huolellisesti tehdyn planin.

Tämä ainakin toimi:
1. xhigh tilassa plan isohkosta hommasta
2. Ultralla planin tarkistus -> korjausta tuli
3. Ultralla plan työn alle, tuumasi että isotöinen homma, mutta pilkotaan osiin.
4. Kauppareissun jälkeen valmista oli, oli auditointi raporttia vaikka millä mitalla.

Tuossa kaikkineen 19 subagenttia oli käytetty.
200€ tilauksella tuota Ultraa käyttää paljon, ei esim 5h raja heti ole tulossa vastaan. Mutta jos ihan työkseen tuolla tekisi niin ei montaa päivää riitä.
Ilmeisesti Ultra =xhigh/max, mutta subagenttien kanssa.
Tuota Max tilaa ei löydy MacOS appista, mutta kännykän appi tarjoaa remotella xhigh, max, ultra. Ja kuitenkin samalle koneelle menee....

Ympäristönä MacOS:n nykyään yhdistetty Codex/Chat-GPT appi, IDEnä on VSCode - mitään muuta en käytä tällä hetkellä ohjelmointeihin.

edit: typoja
 
Viimeksi muokattu:
Cursor ja antigravity molemmat on kilometreja jäljessä openai/anthropic. Kaikki työkalut yrittävät optimoida kontekstin kokoa. Se mikä mulla eniten auttoi niin projektin dokumentaatio, agentti ohjeet ja koodi pieniin modulaarisiin palasiin että AI:n on helppo kasata pieni mutta relevantti konteksti. Toinen hyvä on ollut testailla miten paljon ajattelutyötä eri taskit oikeasti vaativat, aina ei tarvi parasta mallia.

Rahalla takaisin aikaa ja vähemmäksi vanteekiristystä. En suostuisi tänään käyttämään kuin openai:ta. anthropic:iin meni luottamus dumb claude hommissa kevään aikana ja fable5 pian vain api-hinnalla == kallista versus openai 5.6.

Antigravity ja cursor, noh,... ne on pahasti jäljessä ja niissä on huonommilla parametreilla openai/anthropic mallit käytössä kuin mallintekijöiden omissa työkaluissa. Google ja cursor omat mallit ei niin häävejä tänään. Tilanne voi toki muuttua nopeasti.
Ihan puhtaalla Chat-puolella jossa Googlen AI Pro tilauksella (Gemini 3.1Pro/ 3.5 Flash lippulaivansa käytettävissä) saa yleisestä softan pallottelusta ihan ihme viboja. Viimeksi tänään piti kertoa mitä tarkoitan 'antigravitylla' vaikka näkee aikaisemmat chättimme. Tätä kun vertaa ilmaispuolen Claude Sonnet 5 Chattiin, on se tosiaankin aivan eri sarjassa, siellä paremmassa reunassa. Ilmaispuolen ChatGPT ilmeisesti GPT-5.5 chatissa ja myös se pieksee Geminit
 
Ihan puhtaalla Chat-puolella jossa Googlen AI Pro tilauksella (Gemini 3.1Pro/ 3.5 Flash lippulaivansa käytettävissä) saa yleisestä softan pallottelusta ihan ihme viboja. Viimeksi tänään piti kertoa mitä tarkoitan 'antigravitylla' vaikka näkee aikaisemmat chättimme. Tätä kun vertaa ilmaispuolen Claude Sonnet 5 Chattiin, on se tosiaankin aivan eri sarjassa, siellä paremmassa reunassa. Ilmaispuolen ChatGPT ilmeisesti GPT-5.5 chatissa ja myös se pieksee Geminit
Mulla tuli tuntemuksia siinä kohtaa talvella kun kokeili "mitä jos annan ai agentin kirjoittaa kaiken koodin" ja asenteli claudecode:n. Dumb claude jossain kohtaa ja siirtyminen openai:hin. Kun siirryin openai:hin niin ei tarvinut enää IDEä edes aukaista. Luotto siihen syntynyt, että jos jaksaa promptata ja määritellä + turvaraiteet testeillä niin AI tekee 100% bulkkikoodista. Sen verta tuli koodia selailtua ide:n ulkopuolella että näyttää järkevältä. Etenkin assembler-koodissa oli aluksi AI:lla paljon huonoa kun ei ollut sopivia raiteita millä pitää agenttia ruodussa. Testit hyvät kun voi verifioida suorituskyvyn, oikeellisuuden ja screenshoteista vielä ulkoasunkin. Agentti tekee valmiimpaa kun noi kolme asiaa käyty läpi ennen ihmiselle patchin esittelyä. +koodiarvioinnit, lintterit sun muut kannattaa käskyttää myös tekemään.

Ei mene kauan niin IDE:ssa käsinkoodailu samassa kategoriassa kuin reikäkortit.
 
5.6 ja eritoten Sol vetää kyllä ihan överit vähän väliä ylianalysoimalla kaiken, vaikka kuinka laittaisi järkevät ohjeet ja löytää muutenkin ihan turhia asioita. Siihen päälle vielä limitit paukkuu reippaasti pahemmin mitä Claudella.

Toki Claudelta lähössä isommat limitit parin päivän päästä ja Fable myös, mutta silti houkuttelee enemmän kuin tuo buginen ChatGPT/Codex softa.

Toivottavasti Google tekee ihmeen seuraavalla mallilla ja pääsee nautiskelemaan lähes ilmaisesta jäsenyydestä, kun jakelevat eripuolilla maailmaa sitä ilmaseks opiskelijoille ja muille kylkiäisenä.
 
5.6 ja eritoten Sol vetää kyllä ihan överit vähän väliä ylianalysoimalla kaiken, vaikka kuinka laittaisi järkevät ohjeet ja löytää muutenkin ihan turhia asioita. Siihen päälle vielä limitit paukkuu reippaasti pahemmin mitä Claudella.

Toki Claudelta lähössä isommat limitit parin päivän päästä ja Fable myös, mutta silti houkuttelee enemmän kuin tuo buginen ChatGPT/Codex softa.

Toivottavasti Google tekee ihmeen seuraavalla mallilla ja pääsee nautiskelemaan lähes ilmaisesta jäsenyydestä, kun jakelevat eripuolilla maailmaa sitä ilmaseks opiskelijoille ja muille kylkiäisenä.
Toivon, että kaikki noi talot tekisivät hyvät koodausmallit ja työkalut. Myös spacex(ostivat cursor ai:n) ja microsoft(tekevät omia, riippuvuus openai:hin pienenemässä) ja meta. Metasta oli rohkaisevia uutisia tällä viikolla, ei vielä frontier tasolla mutta homma etenee: Meta enters the crowded AI coding battle with Muse Spark 1.1 | TechCrunch Kaikkien käyttäjien etu, että kilpailu on kovaa ja vaihtoehtoja löytyy. Omissa projekteissa pyrkinyt siihen, että ei olisi kitkaa vaihtaa AI työkalusta toiseen.

Takavasemmalta heitän open sourceen kiinalaisten kaveriksi nvidian. Nvidialla upea kun ei ole pelkät painot open sourcessa vaan data, reseptit ja skriptit niin voi nollista lähte opettamaan omaa mallia: GitHub - NVIDIA-NeMo/Nemotron: Developer Asset Hub for NVIDIA Nemotron — A one-stop resource for training recipes, usage cookbooks, datasets, and full end-to-end reference examples to build with Nemotron models Pelkät painot open sourcessa on aika huonoa open sourcea.
 
Itse keksin itselleni vihdoin ja viimein kunnollisen käyttötarkoituksen AI :lle. Erästä lapsena/nuorena lukemaani kirjasarjaa ei koskaan ole suomennettu loppuun ja 4 viimeistä kirjaa on saatavilla vain ruotsiksi ja minä en ruotsia juuri osaa. Keskustelin asiasta Claude Sonnetilla ja nykyään on tosiaan mahdollista kääntää kirja(t) käyttämällä tokeneita/balancea. Ajelin tuossa vähän testejä ja suomennos on ihan ok laatuinen, muutamia hassuja virheitä siellä täällä, ainakin eka luvun osalta. Kirjan käännös maksoi noin 4$ balancea Sonnet 5-mallilla. Jäin kuitenkin miettimään, että saisinko vielä paremman käännöksen etevämpää mallia käyttämällä, esim Opus ja ampuuko kulut katosta läpi?

Kiitoksia jos jaksat vaivautua vastaamaan, ymmärrän että tämä ei varmasti ole AI mallin ydinosaamista, mutta ihan ok jälkeä tuo teki jo nyt. Itse olen koko AI kanssa, aloittelijan tasolla.
Itse olen tehnyt softan joka irrottaa äänen videosta, transcribee siitä tekstit ja lopulta kääntää sen halutulle kielelle. Ihan paikallisesti llm käyttäen ja minulla on ryzen 5 3600, rx 570 8gb ja 32gb RAM, rauta ei siis ole este, hidaste kyllä. Eli minulla on jotain kokemusta tästä asiasta.

Täälläkin ääni translategemmalle jos alat paikallisesti vääntää, 12b minimissään jos haluat laadukasta käännöstä.

Paras tapa riippuu siitä missä muodossa sinulla on noi kirjat, fyysinen, .txt, .epub, .pdf jne .. mutta varmasti onnistuu hyvin joka tapauksesa AI:llä, eniten riippuu mitä ja millä lailla vaadit käännöksen ja sen laadun.
Edit. Ja jos on NVIDIA rautaa niin Mistral-Nemo on helppo ja pitäisi olla todella nopea.
 
Viimeksi muokattu:
Pelkät painot open sourcessa on aika huonoa open sourcea.
Käytännön tasolla avoimet painot ja salliva lisenssi riittää jo hyvin pitkälle.

Mallia voi käyttää ilman että tarvitsee luovuttaa arkaluontoista materiaalia talon ulkopuolelle. Mallia voi myös jatkotreenata omalla materiaalilla ja muokata muutenkin vapaasti.

Toki hieno lisä sekin, että tieteellistä paperia mallin arkkitehtuurista ja mallin treenausmateriaalia ja -koodia jaetaan, mutta en nyt huonoksi sättisi vaikka noi jäisi vähemmälle.
 
Käytännön tasolla avoimet painot ja salliva lisenssi riittää jo hyvin pitkälle.

Mallia voi käyttää ilman että tarvitsee luovuttaa arkaluontoista materiaalia talon ulkopuolelle. Mallia voi myös jatkotreenata omalla materiaalilla ja muokata muutenkin vapaasti.

Toki hieno lisä sekin, että tieteellistä paperia mallin arkkitehtuurista ja mallin treenausmateriaalia ja -koodia jaetaan, mutta en nyt huonoksi sättisi vaikka noi jäisi vähemmälle.
Vähän sama kuin sanoisi, että binäärinä toimitettu blobbi on käytännön tasoilla avoin. Skriptit ja data on llm:n koodi mistä se opetetaan, ohjelmoinnissa vastine "käännetään sorsista". Nvidian systeemeillä voit tehdä tyhjästä saman mallin uusiksi tai muokata mallia ihan miten haluat. Toki painoja voi fine tunettaa, mutta aika eri asia kuin jos on koko paketti kaikkinensa tarjolla versus vain painot. Nvidian github:sta on helppo forkata ja lähteä tekeen omia. Jos on vain painot tiedossa niin mahdollisuus kehittää oma kielimalli on paljon hankalampi ja isotöisempi.
1783801440639.png

1783801524289.png
 
Viimeksi muokattu:
Vähän sama kuin sanoisi, että binäärinä toimitettu blobbi on käytännön tasoilla avoin. Skriptit ja data on llm:n koodi mistä se opetetaan == käännetään. Noilla nvidian systeemeillä voit tehdä tyhjästä saman mallin uusiksi sen sijaan että sinulla on vain lopputulos == binaari == painot.
Mun ymmärtääkseni inferenssikoodi, mikä tyypillisesti avoimen painojen mallien kera julkaistaan myös, avaa mallin arkkitehtuuria/logiikkaa ymmärrettäväksi ja sitä kautta avaa ovia myös jatkotreenaamiselle ja muulle muokkaamiselle. Eli ihan black boxin kanssa ei olla tekemisissä kuitenkaan. Jos noin niin tää blobbi vertaus taitaa vähän ontua, nimenomaan käytännön tasolla.

Mutta ehkäpä on niin että että 9/10 firmasta joita kiinnostaa avoimien mallien käyttäminen omassa talossa viittaa kintaalla kaikelle muulle kuin Nvidian jutuille, koska haluavat treenata saman mallin tyhjästä. Mutta ihan tällaista käsitystä en kyllä ole aiemmin saanut.
 
Mun ymmärtääkseni inferenssikoodi, mikä tyypillisesti avoimen painojen mallien kera julkaistaan myös, avaa mallin arkkitehtuuria/logiikkaa ymmärrettäväksi ja sitä kautta avaa ovia myös jatkotreenaamiselle ja muulle muokkaamiselle. Eli ihan black boxin kanssa ei olla tekemisissä kuitenkaan. Jos noin niin tää blobbi vertaus taitaa vähän ontua, nimenomaan käytännön tasolla.
Toinen ratkaisu on enemmän avoin, toinen vähemmän. Ei tässä ole mitään epäselvää. Voi käydä kyseleen pelkkien painojenjulkaisijoilta, että jos sama asia niin miksi ei julkaista opetusdataa ja skriptejä. Niinpä :)
1783803161408.png

 
Ihan paikallisesti llm käyttäen ja minulla on ryzen 5 3600, rx 570 8gb ja 32gb RAM, rauta ei siis ole este, hidaste kyllä. Eli minulla on jotain kokemusta tästä asiasta.

Täälläkin ääni translategemmalle jos alat paikallisesti vääntää, 12b minimissään jos haluat laadukasta käännöstä.

Paras tapa riippuu siitä missä muodossa sinulla on noi kirjat, fyysinen, .txt, .epub, .pdf jne .. mutta varmasti onnistuu hyvin joka tapauksesa AI:llä, eniten riippuu mitä ja millä lailla vaadit käännöksen ja sen laadun.
Edit. Ja jos on NVIDIA rautaa niin Mistral-Nemo on helppo ja pitäisi olla todella nopea.

Muoto on .epub. Rautana 5800X3D, 32GB RAM, 4070 12GB. Pitää tutustua noihin tarkemmin. Saa vaikka laittaa YV :llä lisätietoja jos haluat :)
 
Anthropicin taloudesta tietoa. Kun katsoo miten pieni osa anthropicin liikevaihdosta tulee tilauksista versus API niin aika selkeä syy miksi fable5 lähtee pois claudecode tilauksista. Toinen mielenkiintoinen luku tokeneiden luontihinta vs. myyntihinta. Selkeästi eivät myy tappiolla. 0.23$ maksaa miljoonan tokenin luonti vs. 0.66$ hinnalla myynti. Token hinta tietenkin massiivinen yksinkertaistus kun on jotenkin vain läjätty kaikki eri malleilla ja asetuksilla luodut tokenit yhteen läjään.

Anthropic jättää pikkufirmat/harrastelijat käyttää 200e/kk tilausta markkinan openai:lle ainakin hetkellisesti.

1783853900742.png
 
0.23$ maksaa miljoonan tokenin luonti vs. 0.66$ hinnalla myynti.

Ei vaan tuo on ennuste neljän kvartaalin päähän olettaen että heidän liikevaihtoennusteensa pitää paikkansa. Viimeisin tuon mukaan todellinen hinta on ollut 45c. Vaatii aika hurjaa kasvua että API kasvu olisi 1,6 mrd -> 26 mrd vuodessa. Epäilen hieman toteutuuko.

Oletus 23c hinnasta perustuu siis siihen että API:n käyttö yli kymmenkertaistuu.

Anthropic jättää pikkufirmat/harrastelijat käyttää 200e/kk tilausta markkinan openai:lle ainakin hetkellisesti.

Tuon perusteella olettavat että yli kymmenkertaistuu pikkufirmat/harrastelijat myös, joten en käsitä mistä tuo päättely.
 
Nyt eletään q3:sta, q1,q2 todellisuus ja q3 ennuste salaisista ipo-materiaaleista mitä toimitettu sec:lle ipoa valmistellessa: Anthropic confidentially submits draft S-1 to the SEC. Jos haluaa ennustuksista puhua niin ennuste loppuu tän vuoden loppuun. Ei esim. tokeneiden luonnin hinta nyt menossa olevan q3:en osalta ja ennustuksen lopettavan q4:en aikana muutu mitenkään merkittävästi. Anthropic 3Q26 Profit Over $1B: The Anthropic IPO Financials Sneak Peak
 
Viimeksi muokattu:
Kuulostaa vähän siltä että sieltä tulee uudet hinnastot siinä tapauksessa. Heti kun koodarit iskee silmänsä johonkin malliin niin menee kaikki persiilleen, kun eivät ole tottuneet maksamaan työkaluistaan tai alustoistaan.
 
Laitoin Goal modella yöksi 5.6 Sol Ultran ;)
Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Linkki: https://x.com/thsottiaux/status/2076365965915467978?s=46

OpenAI keräilee irtopisteet hienosti. Samaan aikaan anthropic korisee kun ei riitä konesalikapasiteetti. Poistavat fable5:en tilauksista ja puolitetaan tilaukseen kuuluvat tokenit. Toki kun anthropic tekee rahat APIn käyttäjiltä tän ymmärtää, mutta enempi tulee hyviä fiiliksiä tällä hetkellä openai:sta kuin anthropic:sta.
 
Fable ilmeisesti lähtee tänään pakettitilauksista vaan eipä se maailmaa kaada kun on SOL nyt käytössä.
 
Fable ilmeisesti lähtee tänään pakettitilauksista vaan eipä se maailmaa kaada kun on SOL nyt käytössä.
Näytti tulevan viikko vielä lisäaikaa fablelle. Viikon päästä myös puolittuu tilaukseen kuuluvat tokenit
Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Linkki: https://x.com/claudeai/status/2076351399999557669
 
Fable taitaa edelleen olla niukasti parempi kuin Sol, mutta on kallis käyttää. Samaan aikaan OpenAI poistaa 5h limiitin ja jakelee resettejä kuin leipää.
 
Näköjään nykyään pääsee ilmaisellakin chatgpt:llä testaamaan codexia. (5.6-terra)

Edit: Aaaand... It's gone 😅 pienen Android appin codebasen analysointi ja muutaman bugin korjaus poltti kuukauden ilmaisen codex saldon. Ei sinänsä mikään ihme.
Tosi mukavalta toi pienikin hetki vaikutti verrattuna MiniMax:in tasoon (joka toki oli oletettua...)
 
Viimeksi muokattu:
Optimoineet openai:n päässä inferenssiä. 10% lisää tokeneita nykyiseen tilaukseen. Olisi hauska tietää mistä tuo 10% tulee, parempi konteksti? Frameworkki optimoitu missä malli ajossa? Monia eri asioita? Jotain bugeja vahingossa tullut mitä korjattu ja pientä säätöä miten eri parametrit toimivat. Virallinen kanta, että mitään ei ole tarkoituksella huononnettu, bugeja/vahinkoja korjataan.
To understand where the extra usage was coming from, we ran some experiments where reasoning efforts were changed (referred to as juice values under the hood) and have reverted this.

- There is slightly more usage of multi-agent than intended in high and xhigh reasoning effort, we are fixing this going forward. Also fixing a small other thing we noticed with auto-review where we can be more efficient.
Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Linkki: https://x.com/thsottiaux/status/2076495156757577895


Veikkaan että nähdään vielä molemmilta openai ja anthropic uusi iso malli tänä vuonna. Anthropic varsinkin kun mythos ollut heillä labrassa alkuvuodesta lähtien niin tutkijoilla ollut pitkään aikaa laittaa seuraavaa isoa mallia kasaan. Onko sitten mallit mythos2 ja gpt6.0 niin numerot ehkä vähemmän relevantteja kuin se, että toivottavasti kyvykkyys pompsahtaa kunnolla ylöspäin ainakin vielä kerran tänä vuonna.
 
Viimeksi muokattu:
Kuinka moni teistä tähän palstaan osallistuneista osaa koodata C#/C/C++ sekä reversoida?
Itse keksin itselleni vihdoin ja viimein kunnollisen käyttötarkoituksen AI :lle. Erästä lapsena/nuorena lukemaani kirjasarjaa ei koskaan ole suomennettu loppuun ja 4 viimeistä kirjaa on saatavilla vain ruotsiksi ja minä en ruotsia juuri osaa. Keskustelin asiasta Claude Sonnetilla ja nykyään on tosiaan mahdollista kääntää kirja(t) käyttämällä tokeneita/balancea. Ajelin tuossa vähän testejä ja suomennos on ihan ok laatuinen, muutamia hassuja virheitä siellä täällä, ainakin eka luvun osalta. Kirjan käännös maksoi noin 4$ balancea Sonnet 5-mallilla. Jäin kuitenkin miettimään, että saisinko vielä paremman käännöksen etevämpää mallia käyttämällä, esim Opus ja ampuuko kulut katosta läpi?

Kiitoksia jos jaksat vaivautua vastaamaan, ymmärrän että tämä ei varmasti ole AI mallin ydinosaamista, mutta ihan ok jälkeä tuo teki jo nyt. Itse olen koko AI kanssa, aloittelijan tasolla.

Ensin nauhoitan videon vanhalla Camtasia Studiolla, ja sen jälkeen käytän kolmea eri ohjelmaa tekstitysten purkamiseen ja synkronointiin. Lopputulos on mielestäni yllättävän laadukas. Voinko linkata sen videon tähän? Siinä on mukana eri kielimalleja, ja pienyrittäjälle tai startupille tämä on suorastaan korvaamaton apu. Tällä hetkellä käytössäni on ilmainen Copilot AI, ja tämän ansiosta säästyin uusimman version ostokustannuksilta. Oikoluetutin tekstin myöskin.
 
Viimeksi muokattu:
Tein Codexin skillillä omaan repoon security scania, niin sekin keskeytyy mallin turvarajojen takia. Kohta lienee minulla sitten automaatti ban.

1783962667414.png
 
Optimoineet openai:n päässä inferenssiä. 10% lisää tokeneita nykyiseen tilaukseen. Olisi hauska tietää mistä tuo 10% tulee, parempi konteksti? Frameworkki optimoitu missä malli ajossa? Monia eri asioita? Jotain bugeja vahingossa tullut mitä korjattu ja pientä säätöä miten eri parametrit toimivat. Virallinen kanta, että mitään ei ole tarkoituksella huononnettu, bugeja/vahinkoja korjataan.
Minusta tuntuu että Sol on nyt hitaampi kuin ennen.
 
Minusta tuntuu että Sol on nyt hitaampi kuin ennen.
Hitaus varmaan riippuu siitä millainen kuorma servereillä on. Työviikko piilaaksossa/maailmalla alkanut versus viikonloppu. Fast-moodiahan on kyllä tarjolla jos on valmis maksamaan enempi samoista tokeneista.
 

Statistiikka

Viestiketjuista
312 964
Viestejä
5 311 481
Jäsenet
84 391
Uusin jäsen
akseli224

Hinta.fi

Back
Ylös Bottom