Tekoäly

[Team_Slow]

Vähän ei niin vakavaa asiaa tekoälystä.
Itsellä ihan ok pelikone tuossa nurkassa (R7 7800x3d, RTX5080) ja ajattelin laittaa sitä hyötykäyttöön kun kuitenkin istuu tyhjänpanttina suurimman osan ajasta.
Käytin Geminin Pro versiota apuna ja viikonlopun aikana laitoin seuraavat asiat pyörimään kotikoneelle niin, että kaikki pyörii myös puhelimen kautta.

Osa nyt ei vaatinut kuin asennuksen, kuten Ollama, mutta osa asioista meni aika säätämiseksi välillä että ne sai toimimaan myös etänä ilman paikallista verkkoa.

Ollama pyörittämään paikallista LLM:ää
OpenWebUI jotta saa käytettyä niitä helposti myös puhelimella.
Kokoro TTS jotta voi keskustella noiden LLM:ien kanssa puheella.
SearXNG jotta nuo LLM:ät pääsee tekemään tuoreita hakuja netistä anonyymisti.
Stirlin-PDF paikalliseksi PDF palvelimeksi joka toimii myös pyhelimella
ComfyUI paikalliseksi kuvageneraattoriksi/muokkaustyökaluksi
Immich Google Kuvien paikallinen korvaaja.
Home Assistant (pyöri jo aikaisemmin) ja HASS.agent jotta saa käynnistettyä ja suljettua Ollamaa ja ComfyUI:ta sen mukaan kumpaa käyttää, kun kumpikin ei mahdu 16GB VRAM:iin yhtäaikaa. Samalla näkee VRAM käytön jos haluaa vaikka Norjasta tarvittaessa.
Ja vielä Tailscale niin, että kaikki tosiaan toimii myös kotiverkon ulkopuolella.

Kaiken tämän säätäminen ilman Geminin apua olisi vienyt varmasti paljon pidempään kun olisi tarvinnut kahlata älyttömät määrät tavaraa ja siltikin varmaan puolet ois jäänyt tekemättä. Mutta onhan tuo aika kätevä nyt. Pitää hommata pistorasiaan älytulppa jotta näkee paljonko tämä kaikki käyttää sähköä pitkässä juoksussa. Vaikka kyllähän tuosta maksaa jo jotain kun mistään näistä ei mene tietoja kotiverkon ulkopuolelle ja LLM ja kuvanmuokkaukset on sensuroimattomia.

Lueskelin ketjua hieman ja siellä oli noista käyttörajoista jotain. Ainakaan tässä käytössä ei ole vielä ison iso ongelma ollut vaikka viestejä olen kirjoitellut monta tuntia putkeen parillakin eri ketjulla. Viestejä on varmasti 100-200 helposti. kakis kertaa on quota tullut täyteen puol tuntia ennen päivittymistä, se on ollutkin hyvä paikka pitää pieni tauko säätämisestä.
Mitkähän nuo rajat yleensä on ja kuinka usein ne nollautuu? AI crediitit jää aika usein käyttämättä kun en mitään videoita tai koodausprojekteja tee.
Olisiko niillä krediiteillä mitään järkikäyttöä tällaisessa meikäläisen setupissa?

Mielenkiintoinen projekti ja itekin tuli vähän aikaa sitten keskusteltua kaverin kanssa ja mietittyä saman tekemistä. Jos saat sähkönkulutustietoja sekä kauanko menee aikaa asioiden tekemiseen niin kiinnostaisi. Itellä tosin on 3080 ja i9 9900k kokoonpano

 

[SePetus]

Sori jos väärä paikka, mutta itseäni on alkanu hiukan huolestuttamaan tekoälyn tuleminen, itse työskentelen IT-firmassa etätuki jamppana, auttelen tätejä tietokone ongelmissa ja ties mitä muuta, eräs esimies firmassani sanoi että tekoäly tulee korvaamaan ensiksi etätuen työt. Mikä näkemys teillä on asiaan ja onko ihan turha vielä tässä kohtaa huolestua aiheesta? Yritän firmassa tunkea itseäni mihin mahdollista ja ottanut lisätehtäviä vastaan, sen toivossa että en olisi ensimmäinen joka heitetään pihalle. En usko että tekoäly tulisi aivan kokonaan etätuen hommia korvaamaan, mutta näkisin että kyllä se ainaskin vähentää henkilöstö tarvetta.

 

[David ":DA" Imodium]

Sori jos väärä paikka, mutta itseäni on alkanu hiukan huolestuttamaan tekoälyn tuleminen, itse työskentelen IT-firmassa etätuki jamppana, auttelen tätejä tietokone ongelmissa ja ties mitä muuta, eräs esimies firmassani sanoi että tekoäly tulee korvaamaan ensiksi etätuen työt. Mikä näkemys teillä on asiaan ja onko ihan turha vielä tässä kohtaa huolestua aiheesta? Yritän firmassa tunkea itseäni mihin mahdollista ja ottanut lisätehtäviä vastaan, sen toivossa että en olisi ensimmäinen joka heitetään pihalle. En usko että tekoäly tulisi aivan kokonaan etätuen hommia korvaamaan, mutta näkisin että kyllä se ainaskin vähentää henkilöstö tarvetta.

Kyllä se noin on, etätuesta luovutaan, sitten siihen palataan. Näin on jo monessa tapauksessa käynyt.

Lisätehtäviä et tarvitse. Työnantajan solidaarisuudella työntekijää kohtaan ei ole väliä jos viivan alle jää enemmän voittoa ilman. Toki jos olet valtiolla niin palvelusaika ja huollettavien määrä saattaa vaikuttaa päätökseen, joten ei ole aivan pelkästään rahasta kiinni.

 

[format]

Sori jos väärä paikka, mutta itseäni on alkanu hiukan huolestuttamaan tekoälyn tuleminen, itse työskentelen IT-firmassa etätuki jamppana, auttelen tätejä tietokone ongelmissa ja ties mitä muuta, eräs esimies firmassani sanoi että tekoäly tulee korvaamaan ensiksi etätuen työt. Mikä näkemys teillä on asiaan ja onko ihan turha vielä tässä kohtaa huolestua aiheesta? Yritän firmassa tunkea itseäni mihin mahdollista ja ottanut lisätehtäviä vastaan, sen toivossa että en olisi ensimmäinen joka heitetään pihalle. En usko että tekoäly tulisi aivan kokonaan etätuen hommia korvaamaan, mutta näkisin että kyllä se ainaskin vähentää henkilöstö tarvetta.

Alkaisin sinuna jo neuvottelemaan, että voisitko olla AI-aspan kehittämisessä mukana. Mietit kunnolla että mitä voit antaa projektille.

 

[SePetus]

Kyllä se noin on, etätuesta luovutaan, sitten siihen palataan. Näin on jo monessa tapauksessa käynyt.

Lisätehtäviä et tarvitse. Työnantajan solidaarisuudella työntekijää kohtaan ei ole väliä jos viivan alle jää enemmän voittoa ilman. Toki jos olet valtiolla niin palvelusaika ja huollettavien määrä saattaa vaikuttaa päätökseen, joten ei ole aivan pelkästään rahasta kiinni.

No hyvä puoli on että olen kunnalla töissä, eli voittoa ei olla tavoittelemassa, mutta säästöjä asiakkaille taas ollaa. En kyllä itse jaksa nähdä että tekoäly aivan täysin korvaisi etätuen tehtävät, tietysti ehkä tulevaisuudessa tekoäly pystyy tai sitten ei, liikuttamaan hiirtä etäyhteydellä asiakkaan koneella ja selvittämään ongelmaa ja kokeilemaan ratkaisuja, ei asiakkaat ala itse tekoälyn ohjeistamana korjailemaan ongelmia koska he maksavat tuesta, tietysti siihenkin voi tulla muutos myöhemmin, ehkäpä se ihmis apu olisi premium tukea ja tekoäly se perus kaura. Noh ei tässä auta murehtia asiaa, pahimmassa tapauksessa takas vuokralle asumaan ja kelan luukulle kunnes jotain töitä löytyy.

 

[polarbear62]

Mythos-keskustelu tuo hyvin esiin sen olennaisen seikan, että tekoälyn korkein taso ei todellakaan ole se sama taso jonka kanssa me tavalliset kuolevaiset operoimme. Ihmiset voi taputtaa itseään selkään kun ilmainen AI ei ole kovin hyvä monessa asiassa, mutta se ei ole ollenkaan sama hirviö kuin se joka raksuttaa ja kehittyy kasvavissa konesaleissa.

Tuo voisi ihan hyvin olla toisinkin päin eli niin että jokainen edistysaskel paniikinomaisesti pusketaan heti kuluttajamarkkinoille jotta saadaan välimatkaa kilpailijoihin nähden.

Esim. jos kattoon on jo törmätty ja on äärimmäisen vaikeaa saada malleja selvästi paremmiksi niin Anthropic ja muut vastaavat firmat haluaa luoda illuusion siitä että juuri heillä on siellä konesaleissa se todellinen peto odottelemassa että pliis pliis jatkakaan nyt niitä tilauksia ettei mennä konkurssiin tässä pahasti tappiollisessa liiketoiminnassa.

No hyvä puoli on että olen kunnalla töissä, eli voittoa ei olla tavoittelemassa, mutta säästöjä asiakkaille taas ollaa. En kyllä itse jaksa nähdä että tekoäly aivan täysin korvaisi etätuen tehtävät, tietysti ehkä tulevaisuudessa tekoäly pystyy tai sitten ei, liikuttamaan hiirtä etäyhteydellä asiakkaan koneella ja selvittämään ongelmaa ja kokeilemaan ratkaisuja, ei asiakkaat ala itse tekoälyn ohjeistamana korjailemaan ongelmia koska he maksavat tuesta, tietysti siihenkin voi tulla muutos myöhemmin, ehkäpä se ihmis apu olisi premium tukea ja tekoäly se perus kaura. Noh ei tässä auta murehtia asiaa, pahimmassa tapauksessa takas vuokralle asumaan ja kelan luukulle kunnes jotain töitä löytyy.

Jotkut paikalliset koodausagentit pystyvät jo avaamaan GUI sovelluksia, katsomaan niiden ikkunien sisältöä, painamaan nappeja yms. eli teknisesti periaatteessa tuollaisen voisi jossain määrin jo tänäkin päivänä tehdä, mutta omasta mielestäni suurempi ongelma on siinä että 1) Kuka auttaa jos tekoäly menee sekaisin tai ei osaa viedä ongelmaa loppuun? 2) Kuka valvoo tekoälyä kun se tekee noita etätuen hommia? 3) Kuka kantaa vastuun virheistä ja miten varsinkin pahat virheen voidaan ennalta ehkäistä?

Mä näen ainakin lähitulevaisuuden tällaisessa enemmän tekoälyavusteisena etätuen työntekijänä kuin 100% tekoälynä eli voi olla että jatkossa yhdistät asiakkaan koneelle ja laitat AI mallin hoitamaan homman tai ainakin tekemään analyysin tilanteesta jonka pohjalta itse hoidat ongelman. Se miten tuollaisissa töissä riittää töitä jatkossa varmaan riippuu pitkälti siitä miten ruuhkautunut se etätuki on.
Eli jos olette aivan tukossa ja jono kasvaa niin jatkossa pystytte palvelemaan ihmisiä kohtuudella. Jos teitä on 5 etätukihemmoa siellä ja päivässä tulee yksi tukipyyntö niin sitten tilanne on päinvastainen. Toisaalta ehkä siinä vaiheessa voitte laajentaa etätuen määrää useampaa palveluun kun tehokkuus nousee? Mun mielestä sun kannattaa pyrkiä ideoimaan siellä juuri jotain tuollaista että miten voitte käyttää tekoälyn tuoman tehokkuuden palvelujen laajentamiseen ja parantamiseen sen sijaan että ne pidetään vakiona ja ihmisiä vähennettäisiin.

 

[Kahvinkeitin]

Kovaa on tämä "tekoälyn" hypetys nykyään... eihän nämä LLM-kikkareet osaa edes ajatella. Eivät taida kaikki ihmiset edes ymmärtää, ettei mikään näistä malleista ole tuottoa tekevä, ja OpenAI ja Anthropic vuotavat rahaa kuin seula. Valot sammuu jossain vaiheessa, vai oletteko valmiita maksamaan jotain tuhansia euroja korkeita kuukausimaksuja näistä henkilökohtaisesti. Itse en näille keksi mitään käyttöä. Pärjättiinhän me ennenkin ilman näitä kikkareita ja energiakustannuksia.

 

[Kupera]

Kovaa on tämä "tekoälyn" hypetys nykyään... eihän nämä LLM-kikkareet osaa edes ajatella. Eivät taida kaikki ihmiset edes ymmärtää, ettei mikään näistä malleista ole tuottoa tekevä, ja OpenAI ja Anthropic vuotavat rahaa kuin seula. Valot sammuu jossain vaiheessa, vai oletteko valmiita maksamaan jotain tuhansia euroja korkeita kuukausimaksuja näistä henkilökohtaisesti. Itse en näille keksi mitään käyttöä. Pärjättiinhän me ennenkin ilman näitä kikkareita ja energiakustannuksia.

Tuon kommentin piti varmaan mennä Iltalehden kommenttiosioon?

 

[Smugu]

Onko muut huomanneet, että näitä kielimalleja tulee helposti käytettyä juttukaverina tai terapeuttina? Joku tekoälyasiantuntijakin puhui tuosta, että koska kielimallit ovat aika myötäileviä ja aina sinun puolellasi niin niiden kanssa on kiva jutella ilman riitoja tai konflikteja.

Ja itse huomannut kyllä saman. Aika monista henkilökohtaisista asioista avautunut tekoälylle ja käynyt pitkiä henkeviä keskusteluja tekoälyn kanssa. Jotkut näistä keskusteluketjuista ovat olleet aktiivisia useamman kuukauden.

Eikä minulla ole edes vaikeaa jutella asioista tosielämässä läheisteni kanssa. Silti tekoäly tuntuu luontevalta juttukaverilta ja samalla tiedon etsijältä ja lohduttajalta. Eikä sille hävetä jankata yksinkertaisia asioita moneen kertaan ja päivästä toiseen. Joku kaveri saattaisi jo kyllästyä moiseen.

 

[Kahvinkeitin]

Tuon kommentin piti varmaan mennä Iltalehden kommenttiosioon?

Kerrotko vielä, että mikä siinä viestissä oli väärää tietoa?

 

[Algron28]

Onko muut huomanneet, että näitä kielimalleja tulee helposti käytettyä juttukaverina tai terapeuttina? Joku tekoälyasiantuntijakin puhui tuosta, että koska kielimallit ovat aika myötäileviä ja aina sinun puolellasi niin niiden kanssa on kiva jutella ilman riitoja tai konflikteja.

Ja itse huomannut kyllä saman. Aika monista henkilökohtaisista asioista avautunut tekoälylle ja käynyt pitkiä henkeviä keskusteluja tekoälyn kanssa. Jotkut näistä keskusteluketjuista ovat olleet aktiivisia useamman kuukauden.

Eikä minulla ole edes vaikeaa jutella asioista tosielämässä läheisteni kanssa. Silti tekoäly tuntuu luontevalta juttukaverilta ja samalla tiedon etsijältä ja lohduttajalta. Eikä sille hävetä jankata yksinkertaisia asioita moneen kertaan ja päivästä toiseen. Joku kaveri saattaisi jo kyllästyä moiseen.

Vaikka näitä voikin käyttää omien ajatusten jäsentelyyn niin minusta tuo "juttukaverina ja terapeuttina" on vähän sellainen kalteva pinta juuri siitä syystä että mitä henkilökohtaisempi keskusteltava asia on sitä enemmän ne myötäilevät. Tämä nimittäin ei ole aina se parhain ja terveellisin malli psyykkeelle. Joskus kuitenkin olisi hyödyllistä sen ihmisen kannalta sanoa ei eikä vain myötäillä ajatusvinouman mukana.

 

[Sallys]

Onko muut huomanneet, että näitä kielimalleja tulee helposti käytettyä juttukaverina tai terapeuttina? Joku tekoälyasiantuntijakin puhui tuosta, että koska kielimallit ovat aika myötäileviä ja aina sinun puolellasi niin niiden kanssa on kiva jutella ilman riitoja tai konflikteja.

Ja itse huomannut kyllä saman. Aika monista henkilökohtaisista asioista avautunut tekoälylle ja käynyt pitkiä henkeviä keskusteluja tekoälyn kanssa. Jotkut näistä keskusteluketjuista ovat olleet aktiivisia useamman kuukauden.

Eikä minulla ole edes vaikeaa jutella asioista tosielämässä läheisteni kanssa. Silti tekoäly tuntuu luontevalta juttukaverilta ja samalla tiedon etsijältä ja lohduttajalta. Eikä sille hävetä jankata yksinkertaisia asioita moneen kertaan ja päivästä toiseen. Joku kaveri saattaisi jo kyllästyä moiseen.

En ole huomannut. Kannattaa lopettaa. Tuo on vähän sama kuin ne hullut jotka puhuvat itsekseen. Varmaan tuo tyydytystä mutta satuahan se on.