Kiitos!
yle.fi
Täällä on parempi ketju yleiseen keinoälystä/kielimalleista keskusteluun: TekoälyAnalyysi: Deepseekin jalkoihin jäi ilmoitus, joka voi nostaa EU:n mukaan tekoälykisaan
Kielimalleista on tulossa hyödykkeitä. EU:n päätös kehittää avoimen lähdekoodin malleja voi osoittautua voittajaratkaisuksi, kirjoittaa teknologiatoimittaja Teemu Hallamaa.
Itse ainakin toivon että OpenEuroLLM toisi jotain merkittävää meidän kaikkien hyödyksi vuosien varrella.
Mikä olisikaan sen parempaa kuin paljon enemmän parempia vaihtoehtoja vaikkapa Yhdysvaltalaisten yritysten tuottamille suljetuille ratkaisuille.
Tottakai avoimen lähdekoodin kielimalleissa omat ongelmansa jos miettii että vaikkapa isot rikkaat rikollisjärjestöt alkaisivat itse muokata niitä jotta saisivat parempia huijauksia ja murtoja tehtyä niiden avulla.
www.anthropic.com
Täähän se tahtoo olla ongelma. Cursorissa 500 premium pyyntöä/kk. Menee alle viikossa jos ei himmaile. Jos olisi itsenäinen agentti käytössä niin ei riittäis päiväksi.
arstechnica.com
def debug_print_fields(prefix: str, fields: list, columns: int, pad_width: int = None):
if not args.debug:
return
print(f"\n{prefix}:")
# Group elements into fields
field_size = 3 if columns % 3 == 0 else 2
# If pad_width is not provided, calculate it from the widest field in this data type
if pad_width is None:
max_field_width = 0
for i in range(0, len(fields), field_size):
chunk = fields[i:i + field_size]
field_str = ",".join(str(x) for x in chunk)
max_field_width = max(max_field_width, len(field_str))
pad_width = max_field_width
# Print fields with consistent padding
for i in range(0, len(fields), columns):
chunk = fields[i:i + columns]
fields_in_chunk = [chunk[j:j + field_size] for j in range(0, len(chunk), field_size)]
formatted_fields = [
(",".join(str(x) for x in field)).ljust(pad_width)
for field in fields_in_chunk
]
print(" | ".join(formatted_fields))
Kaikki mun testaamat lokaalit suoltaa niin huonolaatuista koodia etten halua niitä käyttää. Ero valtava versus cs3.7 tai o3 mini high.
Erikoista, itsellä ainakin 5090 + Gemma 3 27B Q4-setti pysyy oikein vain näyttiksen muistissa kun kaikki LM Studion täpät on kytketty pois päältä ja GPU Offload maksimissa. Ohessa vielä tarkemmat asetukset:
En osaa sanoa, tuottivat niin huonoa lopputulosta että into lokaalimalleihin hyytyi täysin. Videolla näkyy miten llama3.3 70B koodas, lopputulos näytti koodilta mutta ei todellakaan toiminut. Pilvihärvelit n-kertaa nopeampia ja tuottavat toimivan koodin. Lineaarisesti tuntuivat hidastuvan kun kasvatti mallin kokoa.
Erikoista, itsellä ainakin 5090 + Gemma 3 27B Q4-setti pysyy oikein vain näyttiksen muistissa kun kaikki LM Studion täpät on kytketty pois päältä ja GPU Offload maksimissa. Ohessa vielä tarkemmat asetukset:
Todennäköisesti nähnyt leetcoden harjoitusmateriaalissa. Apupyörät tipahtaa alta pois kun yrittää teetättää isompia oikeita asioita.
Ei ole. Inference time compute, reasoning mallit. O3 mini high, claude sonnet 3.7 ihan omilla leveleillä. Aito iso r1 myös hyvä, ei ne llama distilloidut pienemmät.
Puhun tuosta cursorista kun mulla on siihen tilaus syksylle asti. Syksyllä jatkuu koodiavustimen käyttö, mutta avustin voi vaihtua toiseen. Olis tosi epämotivoivaa luopua AI avustetusta koodaamisesta, AI härvelit tuoneet motivaation takaisin koodailuun. Melkein 4v meni ettei jaksanut töiden lopettamisen jälkeen edes katsoa koodailuun päin.
