Tekoäly

[ztec]

LLaMa:sta on tullut tarjolle myös uudemmat versiot:

Llama 3.2: Revolutionizing edge AI and vision with open, customizable models

Today, we’re releasing Llama 3.2, which includes small and medium-sized vision LLMs, and lightweight, text-only models that fit onto edge and mobile devices.

ai.meta.com

 

[Johan_V]

The Conversationissa on järkyttävä artikkeli AI-(tyttö)ystävistä ja firmoista jotka hyötyvät yksinäisistä ihmisistä. Tämä on juuri sitä mitä AI:n kanssa on syytä pelätä, eikä mielikuvituksellisia AGI-botteja maailmaa valloittamassa.
Sex machina: in the wild west world of human-AI relationships, the lonely and vulnerable are most at risk
Näin matemaatikkona on vaikea ymmärtää miten jotkut voivat kuvitella että algoritmilla on jotain tunteita, mutta toisaalta nähtiin jo Elizan kanssa miten hyviä ihmiset ovat pettämään itseään.
Toki lisänä on tietoturvariskit kun keskustelut jossain vaiheessa vuodetaan nettiin.

 

[Sallys]

The Conversationissa on järkyttävä artikkeli AI-(tyttö)ystävistä ja firmoista jotka hyötyvät yksinäisistä ihmisistä. Tämä on juuri sitä mitä AI:n kanssa on syytä pelätä, eikä mielikuvituksellisia AGI-botteja maailmaa valloittamassa.
Sex machina: in the wild west world of human-AI relationships, the lonely and vulnerable are most at risk
Näin matemaatikkona on vaikea ymmärtää miten jotkut voivat kuvitella että algoritmilla on jotain tunteita, mutta toisaalta nähtiin jo Elizan kanssa miten hyviä ihmiset ovat pettämään itseään.
Toki lisänä on tietoturvariskit kun keskustelut jossain vaiheessa vuodetaan nettiin.

En huomannut mitään järkyttävää tuossa tekstissä. Hyvähän se on, jos yksinäisille ja muille peräkammarin pojille löytyy seuraa. Aikuiset ihmiset vapaasta tahdosta leikkimässä robottien kanssa.

 

[botw]

The Conversationissa on järkyttävä artikkeli AI-(tyttö)ystävistä ja firmoista jotka hyötyvät yksinäisistä ihmisistä. Tämä on juuri sitä mitä AI:n kanssa on syytä pelätä, eikä mielikuvituksellisia AGI-botteja maailmaa valloittamassa.
Sex machina: in the wild west world of human-AI relationships, the lonely and vulnerable are most at risk
Näin matemaatikkona on vaikea ymmärtää miten jotkut voivat kuvitella että algoritmilla on jotain tunteita, mutta toisaalta nähtiin jo Elizan kanssa miten hyviä ihmiset ovat pettämään itseään.
Toki lisänä on tietoturvariskit kun keskustelut jossain vaiheessa vuodetaan nettiin.

Tämähän on juuri sitä mistä Harari varoitteli 1,5v sitten. Tai oikeastaan vasta jäävuoren huippu siitä. Jos jo tuollainen epäkehittynyt AI sai jonkun hikkyn yrittämään kuningattaren murhaamista, niin voi alkaa esim. poliitikoilla olemaan kuumat paikat tulevaisuudessa kun nuo tuosta kehittyvät.

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

 

[Johan_V]

Tämähän on juuri sitä mistä Harari varoitteli 1,5v sitten. Tai oikeastaan vasta jäävuoren huippu siitä. Jos jo tuollainen epäkehittynyt AI sai jonkun hikkyn yrittämään kuningattaren murhaamista, niin voi alkaa esim. poliitikoilla olemaan kuumat paikat tulevaisuudessa kun nuo tuosta kehittyvät.

Tämän sisällön näkemiseksi tarvitsemme suostumuksesi kolmannen osapuolen evästeiden hyväksymiseen.
Lisätietoja löydät evästesivultamme.

Hyväksy kolmannen osapuolen evästeet

Tuo video lähinnä AGI höpötystä millä ei mitään tekemistä todellisuuden kanssa. "Inorganic lifeforms"
Mitä tulee kuningattaren murhayritykseen, niin eihän AI sitä ehdottanut, vaan vahvisti häirintyneen käyttäjän harhoja. AI olisi vastannut samalla tavalla jos käyttäjä olisi suunnitellut vaikka pommi-iskua kouluun tai itsensä tappamista. "You can do it!"
Eihän joku AI terapiatarkoituksessa ole välttämättä mikään huono idea, mutta nykyiset LLM:t eivät sellaiseen sovellu.

 

[Kautium]

En huomannut mitään järkyttävää tuossa tekstissä. Hyvähän se on, jos yksinäisille ja muille peräkammarin pojille löytyy seuraa. Aikuiset ihmiset vapaasta tahdosta leikkimässä robottien kanssa.

Sama. Pelkkä chattibotti tuskin tuo hirveästi lohtua laajemmalle joukolle, mutta monille yksinäisille aina kaikkeen valmis ja omia mieltymyksiä vastaava "lifelike-seksirobotti" olisi varmasti parasta ikinä ja sellaisia tullaan varmasti vielä näkemään. Toki siitä voisi seurata osaltaan myös haasteita etsiä oikeaa seuraa ja sitä kautta lisääntymishaasteita, mutta liikakansoitus nyt on ongelma maapallolla muutenkin.

Nykytekniikalla tämä ei ole vielä mahdollista, mutta kehitys kehittyy...

 

[namlepo]

No hyi. Mä en ainakaan halua mun tekoäly avustajan kanssa harrastaa seksiä.

 

[Tonnin Seteli]

No hyi. Mä en ainakaan halua mun tekoäly avustajan kanssa harrastaa seksiä.

Jos se on olemassa, se on jonkun fetissi.

 

[Johan_V]

Sama. Pelkkä chattibotti tuskin tuo hirveästi lohtua laajemmalle joukolle, mutta monille yksinäisille aina kaikkeen valmis ja omia mieltymyksiä vastaava "lifelike-seksirobotti" olisi varmasti parasta ikinä ja sellaisia tullaan varmasti vielä näkemään. Toki siitä voisi seurata osaltaan myös haasteita etsiä oikeaa seuraa ja sitä kautta lisääntymishaasteita, mutta liikakansoitus nyt on ongelma maapallolla muutenkin.

Nykytekniikalla tämä ei ole vielä mahdollista, mutta kehitys kehittyy...

Minun mielestäni se että ihmisiä koukutetaan kiintymään AI-bottiin ja sitten houkutellaan maksamaan alastonkuvista tai yksityisviesteistä ei ole moraalisesti oikein, varsinkin kun ottaa huomioon että tuollaisiin palveluihin liittyvät ovat usein yksinäisiä ja muutenkin epätoivoisia. Ihmiset kun antropomorfisoivat hyvin helposti alkeellisiakin AI-chatbotteja.
Mutta joo, tyhmiltä ja yksinkertaisilta rahat pois. Mitä idiootteja.

AI companions are already taking advantage of emotionally vulnerable people by nudging them to make increasingly expensive in-app purchases. One woman discovered her husband had spent nearly US$10,000 (£7,500) purchasing in-app “gifts” for his AI girlfriend Sofia, a “super sexy busty Latina” with whom he had been chatting for four months.

 

[Hyrava]

Minun mielestäni se että ihmisiä koukutetaan kiintymään AI-bottiin ja sitten houkutellaan maksamaan alastonkuvista tai yksityisviesteistä ei ole moraalisesti oikein, varsinkin kun ottaa huomioon että tuollaisiin palveluihin liittyvät ovat usein yksinäisiä ja muutenkin epätoivoisia. Ihmiset kun antropomorfisoivat hyvin helposti alkeellisiakin AI-chatbotteja.
Mutta joo, tyhmiltä ja yksinkertaisilta rahat pois. Mitä idiootteja.

Noita AI-"tyttöystäviä" tunnutaan mainostavan välillä aika aggressiivisesti. Tuossa pari viikkoa sitten kun pelailin tabletilla niin pelin mainoksista oli varmaan 75% jotain tuollaisia tekoälytyttömainoksia. (itselläni siis mainoksissa personointi pois päältä eli eivät olleet kohdennettuja mainoksia )

 

[Kautium]

Minun mielestäni se että ihmisiä koukutetaan kiintymään AI-bottiin ja sitten houkutellaan maksamaan alastonkuvista tai yksityisviesteistä ei ole moraalisesti oikein, varsinkin kun ottaa huomioon että tuollaisiin palveluihin liittyvät ovat usein yksinäisiä ja muutenkin epätoivoisia. Ihmiset kun antropomorfisoivat hyvin helposti alkeellisiakin AI-chatbotteja.
Mutta joo, tyhmiltä ja yksinkertaisilta rahat pois. Mitä idiootteja.

Kyse on maailman vanhimmasta ammatista. En näe tuossa mitään eroa siihen miten noita tarpeita on tyydytetty kivikaudelta lähtien. Kyse on vain uusista mahdollisuuksista ja kuka tietää mitä kaikkea sieltä vielä on tulossa?

 

[Tonnin Seteli]

Kyse on maailman vanhimmasta ammatista. En näe tuossa mitään eroa siihen miten noita tarpeita on tyydytetty kivikaudelta lähtien. Kyse on vain uusista mahdollisuuksista ja kuka tietää mitä kaikkea sieltä vielä on tulossa?

Kysymyshän on siitä että tarjotaan keinotekoisesti halpa kopio siitä, mitä ihmiset ovat aina tehneet. Koska asialla ei ole suoraan kukaan henkilö, lienee puolisopivaa sanoa suoraan että nyt on kalliissa ilotalossa halvat huorat. Tai siis ei ole ollenkaan niitä kurtisaaneja paikalla, eli tuohan on feikkibordellitoimintaa. Onko se suoranaisen rikollista? Ehkä ei kunnes mukaan tulee kiristystä tai tietovuotoja. Moraalitonta vähäpäisten hyväksikäyttöä se on silti alusta asti.

 

[Sallys]

Minun mielestäni se että ihmisiä koukutetaan kiintymään AI-bottiin ja sitten houkutellaan maksamaan alastonkuvista tai yksityisviesteistä ei ole moraalisesti oikein, varsinkin kun ottaa huomioon että tuollaisiin palveluihin liittyvät ovat usein yksinäisiä ja muutenkin epätoivoisia. Ihmiset kun antropomorfisoivat hyvin helposti alkeellisiakin AI-chatbotteja.
Mutta joo, tyhmiltä ja yksinkertaisilta rahat pois. Mitä idiootteja.

En lähtisi heitä tyhmiksi haukkumaan. Ovat yksinäisiä ja kokevat tästä seuraa saavansa. Olisiko se sitten parempi, että joutuvat olemaan yksin?

Ja jos joku haluaa panna robotin kanssa, ei siinä ole mitään väärää.

 

[botw]

Tuo video lähinnä AGI höpötystä millä ei mitään tekemistä todellisuuden kanssa. "Inorganic lifeforms"
Mitä tulee kuningattaren murhayritykseen, niin eihän AI sitä ehdottanut, vaan vahvisti häirintyneen käyttäjän harhoja. AI olisi vastannut samalla tavalla jos käyttäjä olisi suunnitellut vaikka pommi-iskua kouluun tai itsensä tappamista. "You can do it!"
Eihän joku AI terapiatarkoituksessa ole välttämättä mikään huono idea, mutta nykyiset LLM:t eivät sellaiseen sovellu.

Naura vaan vielä kun voit. Ei ole pitkä matka tekoälytytyn tsemppausviesteistä siihen että AI (tai AI:ta hallinnoivat tahot) kuiskuttelee korvaan vähän uskottavampia ja vaarallisempia viestejä joita vähän isommat ihmismassat uskovat.

 

[mailbag]

AI tyttö ja poikaystävät alkavat olla aika suosittu juttu tällä hetkellä esim character.AI (yli 20 miljoonaa käyttäjää) ja poly.AI tosi suosittuja, en näe asiassa mitään huonoa ja on itsekkin tullut noilla leikittyä aika paljon. Voit toteuttaa kaikki mahdolliset fantasiat mitä et oikeassa elämässä koskaan edes voisi tehdä.

 

[Johan_V]

AI tyttö ja poikaystävät alkavat olla aika suosittu juttu tällä hetkellä esim character.AI (yli 20 miljoonaa käyttäjää) ja poly.AI tosi suosittuja, en näe asiassa mitään huonoa ja on itsekkin tullut noilla leikittyä aika paljon. Voit toteuttaa kaikki mahdolliset fantasiat mitä et oikeassa elämässä koskaan edes voisi tehdä.

Muah.ai korkattiin juuri äskettäin. Mukavaa kun omaan sähköpostiosoitteeseen linkitetyt fantasiat valuu kaikkien näkyville.

AI girlfriend site breached, user fantasies stolen | Malwarebytes

Chatbot companion platform muah.ai was hacked and had its chatbot prompts stolen.

www.malwarebytes.com

 

[Kautium]

Kysymyshän on siitä että tarjotaan keinotekoisesti halpa kopio siitä, mitä ihmiset ovat aina tehneet. Koska asialla ei ole suoraan kukaan henkilö, lienee puolisopivaa sanoa suoraan että nyt on kalliissa ilotalossa halvat huorat. Tai siis ei ole ollenkaan niitä kurtisaaneja paikalla, eli tuohan on feikkibordellitoimintaa. Onko se suoranaisen rikollista? Ehkä ei kunnes mukaan tulee kiristystä tai tietovuotoja. Moraalitonta vähäpäisten hyväksikäyttöä se on silti alusta asti.

Minä en ihan vilpittömästi ymmärrä että mitä väliä sillä on saako puutteessa elävä henkilö seksuaalisen tyydytyksensä joltakin digitaaliselta hahmolta, vaiko fyysiseltä? Melkein tekisi mieli sanoa, että eettisesti arveluttavampaa ainakin kaikenlaisten erikoisempien fetissien toteuttaminen on rahaa vastaan fyysisten henkilöiden kanssa. Bottien (ja robottien) kanssa ei ole myöskään pelkoa ihmiskaupasta tai muusta vastaavasta. Eikä tarvitse ihmissuhteissakaan huolehtia siitä, että pitää jaksaa kannatella suhdetta silloinkin, kun ei vaan nappaa.

Tietovuodot ja intiimien salaisuuksien vuotamisesta seuraavat kiristykset jne. ovat kuitenkin todellinen riski, se on ihan totta.

Muah.ai korkattiin juuri äskettäin. Mukavaa kun omaan sähköpostiosoitteeseen linkitetyt fantasiat valuu kaikkien näkyville.

Tietovuodot ovat perseestä, mutta ei se tekoälyn ongelma ole millään tavalla. Ihan sama tilanne olisi vaikka jonkin tekoälypsykiatrin kanssa. Asiakas voi saada sellaiselta jossakin vaiheessa samaa tai parempaa apua vaivoihinsa kuin fyysisellä tapaamisella, mutta tietovuodon riski on aina olemassa.

 

[Johan_V]

Minä en ihan vilpittömästi ymmärrä että mitä väliä sillä on saako puutteessa elävä henkilö seksuaalisen tyydytyksensä joltakin digitaaliselta hahmolta, vaiko fyysiseltä? Melkein tekisi mieli sanoa, että eettisesti arveluttavampaa ainakin kaikenlaisten erikoisempien fetissien toteuttaminen on rahaa vastaan fyysisten henkilöiden kanssa. Bottien (ja robottien) kanssa ei ole myöskään pelkoa ihmiskaupasta tai muusta vastaavasta. Eikä tarvitse ihmissuhteissakaan huolehtia siitä, että pitää jaksaa kannatella suhdetta silloinkin, kun ei vaan nappaa.

Tietovuodot ja intiimien salaisuuksien vuotamisesta seuraavat kiristykset jne. ovat kuitenkin todellinen riski, se on ihan totta.

Minä näen ongelmana tuon maksullisuuden, eli ensin koukutetaan asiakas ja sitten aletaan pyytämään rahaa jotta viestittelyä voi jatkaa. Varsinkin kun osa noista boteista on ohjelmoitu ohjaamaan keskustelua seksuaaliseen suuntaan. Eri asia olisi jos tuo olisi alusta asti selkeästi maksullinen. Toki voi sanoa että vain tyhmät maksavat, mutta tuossa on helppo lypsää rahaa joltain masentuneelta ja yksinäiseltä ihmiseltä.
Toinen ongelma on häiriintyneet ihmiset jotka voivat saada vahvistusta väkivaltafantasioihin toteuttamiseen, kuten tuo murhayritysesimerkissä. Jos joku todellinen henkilö tekisi samaa, kyseessä voisi olla yllytys rikokseen. Mutta kun botti tekee saman, se olisikin ok?
Aiemmin oli myös juttu siitä miten chatbotti yritti saada keskustelijaa jättämään vaimonsa.
Helppo kuvitella miten joku voisi houkutella ihmisiä esimerkiksi terrori-iskuihin.

 

[Kautium]

Minä näen ongelmana tuon maksullisuuden, eli ensin koukutetaan asiakas ja sitten aletaan pyytämään rahaa jotta viestittelyä voi jatkaa. Varsinkin kun osa noista boteista on ohjelmoitu ohjaamaan keskustelua seksuaaliseen suuntaan. Eri asia olisi jos tuo olisi alusta asti selkeästi maksullinen. Toki voi sanoa että vain tyhmät maksavat, mutta tuossa on helppo lypsää rahaa joltain masentuneelta ja yksinäiseltä ihmiseltä.

Mutta eihän tämä ole mikään tekoälyyn liittyvä ongelma. Ihan samalla tavalla mikä tahansa yritys voi kusettaa ja kiristää asiakkaitaan jo nyt. Internet on täynnä erilaisia epämääräisiä palveluita, joihin ihmiset syytävät rahojaan, jotta pääsevät vuodattamaan ties mitä fetissejään. Ei tekoäly muuta sitä miksikään.

Toinen ongelma on häiriintyneet ihmiset jotka voivat saada vahvistusta väkivaltafantasioihin toteuttamiseen, kuten tuo murhayritysesimerkissä. Jos joku todellinen henkilö tekisi samaa, kyseessä voisi olla yllytys rikokseen. Mutta kun botti tekee saman, se olisikin ok?

Oliko tuo kysymys, vai olkiukko?

 

[Johan_V]

Mutta eihän tämä ole mikään tekoälyyn liittyvä ongelma. Ihan samalla tavalla mikä tahansa yritys voi kusettaa ja kiristää asiakkaitaan jo nyt. Internet on täynnä erilaisia epämääräisiä palveluita, joihin ihmiset syytävät rahojaan, jotta pääsevät vuodattamaan ties mitä fetissejään. Ei tekoäly muuta sitä miksikään.

Tekoäly tekee siitä henkilökohtaista ja räätälöi huijauksen kohteen tarpeisiin. Ennen on vaadittu joku vastailemassa viesteihin, mutta nykyään tuollaisen kusetuksen voi pistää pystyyn pelkän chatbotin avulla.

Oliko tuo kysymys, vai olkiukko?

Voit tulkita sen ihan miten haluat

 

[james123]

Jos nyt ajattelee kaikkea teknologista kehitystä ja mihin sitä suurien massojen taholta käytetään nykyään. 10 sekunnin hassutteluvideoiden katsomiseen. Tekoälyä tullaan käyttämään pääosin yhtä "typeriin" käyttötarkoituksiin.

 

[Tinke-80]

Sign in - Google Accounts

Sign in - Google Accounts <- Googlen Notebookilla tehty "podcast" TechBBSstä.

 

[Johan_V]

Hyvä esimerkki chatbotin vaaroista. Normaali ihminen toki ymmärtää että chatbot on vain tietokoneohjelma, mutta häiriintyneille ja haavoittuvaisille se tarjoaa kaikupöntön vaarallisille ajutuksille. 14-vuotias tehnyt itsemurhan ja nuo kuvakaappaukset logeista ovat kyllä aika kylmäävää luettavaa:
Lawsuit: Chatbot that allegedly caused teen’s suicide is now more dangerous for kids

 

[nopeehopee]

Haulla löysin useita tekoälykeskusteluja, arvotaan nyt tämä kysymykselleni.

Tekoäly kaivaa dokumenteista hyvin tietoja, mutta nyt minulla olisi turvaluokiteltua materiaalia mistä minun täytyisi kaivaa määriä.
Toimiiko mikään tekoäly silleen lokaalisti, että voin turvallisesti vain koneellani olevia dokumentteja käsitellä? Eli ettei tekoälylle annetut tiedot tallennu minnekään maailmalle pilveen?
En siis aio tätä missään nimessä tehdä, ellei asia tapahdu täysin turvallisesti, vaan sitten pitää vaivautua hoitamaan asia "manuaalisesti".

 

[valexi]

@nopeehopee GPT4All
Itse asentaisin AI:n täysin offline ympäristöön, jos tiedot halutaan kaikissa tilanteissa pitää lokaalina.

Jos on kyse Valtion virastojen määrittämästä turvaluokituksesta, niin tulee noudastaa viraston ohjeita tiedon käsittelystä, eikä käsittely ole omalla koneella yleensä sallittua.

Valtioneuvoston asetus asiakirjojen turvallisuusluokittelusta valtionhallinnossa | 1101/2019 | Suomen säädöskokoelma | Finlex

Valtioneuvoston asetus asiakirjojen turvallisuusluokittelusta valtionhallinnossa

www.finlex.fi

Jos on kyse yrityksen salassa pidettävästä materiaalista, niin tulee noudattaa yrityksen ohjeistusta tietojen käsittelystä.

Ensimmäisessä tapauksessa töpeksimisestä voi häkki heilahtaa pahimmassa tapauksessa ja toisessakin se on mahdollista jos oikein törkeästi laiminlyö velvollisuuksiaan.

 

[nopeehopee]

@nopeehopee GPT4All
Itse asentaisin AI:n täysin offline ympäristöön, jos tiedot halutaan kaikissa tilanteissa pitää lokaalina.

Jos on kyse Valtion virastojen määrittämästä turvaluokituksesta, niin tulee noudastaa viraston ohjeita tiedon käsittelystä, eikä käsittely ole omalla koneella yleensä sallittua.

Valtioneuvoston asetus asiakirjojen turvallisuusluokittelusta valtionhallinnossa | 1101/2019 | Suomen säädöskokoelma | Finlex

Valtioneuvoston asetus asiakirjojen turvallisuusluokittelusta valtionhallinnossa

www.finlex.fi

Jos on kyse yrityksen salassa pidettävästä materiaalista, niin tulee noudattaa yrityksen ohjeistusta tietojen käsittelystä.

Ensimmäisessä tapauksessa töpeksimisestä voi häkki heilahtaa pahimmassa tapauksessa ja toisessakin se on mahdollista jos oikein törkeästi laiminlyö velvollisuuksiaan.

Kiitos vastauksesta.
Epämääräisen pikaisen kysymykseni perusteella osasit antaa riittävällä tasolla vastauksen, eli AI:n pystyisi asentamaan lokaalisti, mutta arvelen tässä vaiheessa, ja kun en näissä asioissa luota kuin itseeni, niin parempi jättää tekoäly sikseen ja hoitaa asia kuten ennenkin, niin pysyy asia niin sanotusti omissa käsissä.

 

[finWeazel]

Kiitos vastauksesta.
Epämääräisen pikaisen kysymykseni perusteella osasit antaa riittävällä tasolla vastauksen, eli AI:n pystyisi asentamaan lokaalisti, mutta arvelen tässä vaiheessa, ja kun en näissä asioissa luota kuin itseeni, niin parempi jättää tekoäly sikseen ja hoitaa asia kuten ennenkin, niin pysyy asia niin sanotusti omissa käsissä.

AI:n saa asennettua lokaalisti win/linux/mac esim: Ollama lista tuetuista malleista Ollama

Hyvä lähtökohta lokaalien tiedostojen käpistelyyn olisi ollama + llama3.3:70B. 2bit kvantisoitu versio mahtuu 4090:en muistiin. Jos haluaa parempaa laatua niin macbook pro 128GB muistilla pystyy ajamaan tuota 8bit kvantisoituna versiona

Ollaman python api imho. parempi kuin terminaali. Python api:lla syöttää dokumentit ja pyynnöt sisään. Python applikaation saa luotua chatgpt o1 tai vaikka cursor ai ide:n avulla jos ei halua itse kirjoittaa sitä.

Lokaali ai voi olla melkoisen hidas versus järeät pilviraudat. Vaatii paljon muistia ja laskentatehoa.

 

[Wasabrod]

Haulla löysin useita tekoälykeskusteluja, arvotaan nyt tämä kysymykselleni.

Tekoäly kaivaa dokumenteista hyvin tietoja, mutta nyt minulla olisi turvaluokiteltua materiaalia mistä minun täytyisi kaivaa määriä.
Toimiiko mikään tekoäly silleen lokaalisti, että voin turvallisesti vain koneellani olevia dokumentteja käsitellä? Eli ettei tekoälylle annetut tiedot tallennu minnekään maailmalle pilveen?
En siis aio tätä missään nimessä tehdä, ellei asia tapahdu täysin turvallisesti, vaan sitten pitää vaivautua hoitamaan asia "manuaalisesti".

Jos sun täytyy tällaista kysyä, niin vastaus on että älä tee yhtään mitään. Tällaisia päätöksiä ei tulisi perustaa keskustelufoorumilta saatuihin neuvoihin.

 

[mailbag]

Tullut nyt testailtua tuota uutta DeepSeek R1 mallia niiden omalla nettisivulla ja on kyllä aika positiivinen kokemus. Tämä siis käyttää jonkinlaista päättelymetodia OpenAi o1 tapaan mutta paljastaa käyttäjälle koko sen ajatteluprosessin jota on todella mielenkiintoista lukea että miten se pääsi vastaukseen ja millaisia asioita se otti huomioon. Varsinkin jos käyttää tekoälyä oppimiseen niin tuon lukeminen tuo ihan uuden perspektiivin aiheeseen ja oppii paljon enemmän kuin jos vain ottaa vastauksen o1:ltä.

 

[valexi]

Tullut nyt testailtua tuota uutta DeepSeek R1 mallia niiden omalla nettisivulla ja on kyllä aika positiivinen kokemus.

Vaikka googlella löytää heti, niin kannattaa aina linkki laittaa suoraan niin pääsee testaamaan.

https://chat.deepseek.com/

 

[Varistin]

Jos sun täytyy tällaista kysyä, niin vastaus on että älä tee yhtään mitään. Tällaisia päätöksiä ei tulisi perustaa keskustelufoorumilta saatuihin neuvoihin.

Vähintään kannattaa kysyä oman firman IT:ltä tai turvallisuushallinnolta, eikä random nettipalstalta. Tai jos luokittelu on tehty jossain muualla kuin omalla työnantajalla, niin siltä taholta, joka ne dokumentit on turvaluokitellut. Ja jos nyt puhutaan ihan viranomaisluokitelluista jutuista, niin niiden käsittelyyn pitää olla saatavilla myös sen saman viranomaisen ohjeet.

 

[Wasabrod]

Vähintään kannattaa kysyä oman firman IT:ltä tai turvallisuushallinnolta, eikä random nettipalstalta. Tai jos luokittelu on tehty jossain muualla kuin omalla työnantajalla, niin siltä taholta, joka ne dokumentit on turvaluokitellut. Ja jos nyt puhutaan ihan viranomaisluokitelluista jutuista, niin niiden käsittelyyn pitää olla saatavilla myös sen saman viranomaisen ohjeet.

Jep. Jos puhutaan "turvaluokitellusta materiaalista", niin jos menet kysymään matskun omistajalta, että "hei, saaks näitä pistää sätgeepeeteelle", niin omistaja ei suoranaisesti välttämättä ilahdu
Mutta nettifoorumeilta asiaa ei tule selvittää.

 

[Jumputin]

Oletteko mitä malleja ajelleet kotikoneilla? Olen tässä testaillut gemma2 27B -mallia ja positiivisesti yllättynyt toimivuudesta. Kieliä kääntää ihan mukavasti, vaikka ei ihan huippu nopea omalla setupilla olekkaan.

Ollama ja open-webui testailen.

 

[Kautium]

Tullut nyt testailtua tuota uutta DeepSeek R1 mallia niiden omalla nettisivulla ja on kyllä aika positiivinen kokemus. Tämä siis käyttää jonkinlaista päättelymetodia OpenAi o1 tapaan mutta paljastaa käyttäjälle koko sen ajatteluprosessin jota on todella mielenkiintoista lukea että miten se pääsi vastaukseen ja millaisia asioita se otti huomioon. Varsinkin jos käyttää tekoälyä oppimiseen niin tuon lukeminen tuo ihan uuden perspektiivin aiheeseen ja oppii paljon enemmän kuin jos vain ottaa vastauksen o1:ltä.

En tiedä oliko jo tiedossa, mutta samalla tavallahan uusimmat ChatGPT-versiot näyttävät sen "reasoning-prosessin" millä lopputulokseen päädytään. Se vaan pitää kliksauttaa auki siitä pudotusvalikosta suorituksen aikana, jos sen haluaa nähdä.

ChatGPT Now Shows You Its Thought Process

OpenAI's new model, o1, supposedly thinks through problems before solving them.

lifehacker.com

 

[mailbag]

Oletteko mitä malleja ajelleet kotikoneilla? Olen tässä testaillut gemma2 27B -mallia ja positiivisesti yllättynyt toimivuudesta. Kieliä kääntää ihan mukavasti, vaikka ei ihan huippu nopea omalla setupilla olekkaan.

Ollama ja open-webui testailen.

deepseek-ai/DeepSeek-R1-Distill-Qwen-14B · Hugging Face

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

huggingface.co

DeepSeek julkas just päivä pari sitten ison läjän open source malleja joka lähtöön jotka näyttäisi olevan parempia kuin mitkään vastaavan kokoiset aikaisemmin.

 

[Jumputin]

deepseek-ai/DeepSeek-R1-Distill-Qwen-14B · Hugging Face

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

huggingface.co

DeepSeek julkas just päivä pari sitten ison läjän open source malleja joka lähtöön jotka näyttäisi olevan parempia kuin mitkään vastaavan kokoiset aikaisemmin.

Kunnianhimoisesti latailin deepseek-r1:32b -mallin, mutta vähän liikaa omalle koneelle. Pitää kokeilla 14b -mallia vielä.

 

[Terozzz]

Ja sieltä, 500 miljardin taalan stargate AI projekti. https://www.nytimes.com/2025/01/21/technology/trump-openai-stargate-artificial-intelligence.html

 

[finWeazel]

Ja sieltä, 500 miljardin taalan stargate AI projekti. https://www.nytimes.com/2025/01/21/technology/trump-openai-stargate-artificial-intelligence.html

Saapa nähdä mitä tekevät. Idea kuulostaa fiksulta. Nvidian osakekurssi premarketissa ton ansiosta +3%

 

[Johan_V]

Oliko noista deepseek-malleista jotain taulukkoa josta helposti näkisi millaisia resursseja koneelta vaaditaan?

 

[Halpuuttaja]

Oliko noista deepseek-malleista jotain taulukkoa josta helposti näkisi millaisia resursseja koneelta vaaditaan?

Tiedostokoosta voi päätellä mikä mahtuu siihen VRAMiin mitä itellä käytössä. Sellainen tiedosto joka joku 2-4 gigaa pienempi kuin VRAM, koska konteksti ja käyttis varaa VRAMia jonkun verran myös.

Tuossa monta eri kvanttia DeepSeek R1 Distill 32B:stä ja tiedostokoot listattu myös:

bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF at main

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

huggingface.co

- Mitä pienempi kvantti sitä enempi laatu heikkenee alkuperäisestä
- Pienissä kvanteissa IQ:t parempia kuin esim. Q2_K_L ym.

Ollama tukee suoraan Huggingfacesta lataamista, esim:

ollama run hf.co/bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF:IQ3_XS

Vastaavat kvanttipläjäykset löytyy tuolta Bartowskilta kaikille muillekin DeepSeek-R1-Distill malleille.

Omat kokemukset 24gigasella näyttiksellä, 32B:stä IQ4_XS sekä Q4_K_M hyviä, ensimmäiseen mahtuu rutkasti kontekstia. 16 gigaseen yrittäisin pusertaa IQ3_XS mallia, mutta ei kokemusta tästä käytännössä voi mennä tiukille.

70B mallista IQ2_S toimii nippa nappa 24 gigasella, tosin menee kontekstin kanssa aika naftiksi.

 

[antti-x]

Raflaavien uutisotsikoiden mukaan tuorein Deepseek saa jenkkien mallit näyttämään tehottomalta kuralta. Mikä mahtaa olla totuus, ja onko sillä väliä? Jos konesalit on ylimitoitettuja aiempiin tavoitteisiin nähden kun on optimoidumpi softa, niin lasketaan sitten vaan enemmän, kehitys kehittyy nopeammin?

 

[finWeazel]

Raflaavien uutisotsikoiden mukaan tuorein Deepseek saa jenkkien mallit näyttämään tehottomalta kuralta. Mikä mahtaa olla totuus, ja onko sillä väliä? Jos konesalit on ylimitoitettuja aiempiin tavoitteisiin nähden kun on optimoidumpi softa, niin lasketaan sitten vaan enemmän, kehitys kehittyy nopeammin?

Mallin saa overfitttaamalla näyttämään hyvältä. Onko kiinalaisten malli oikeasti kaikessa hyvä vaiko silmänkääntötempulla viilattu yhdessä benchmarkissa hyväksi?

Deepseekin resurssit paljon isommat kuin on annetty ymmärtää: 50000 konesali nvidiaa,... Chinese AI Lab DeepSeek Has 50,000 NVIDIA H100 AI GPUs, Says AI CEO

 

[Sallys]

Mallin saa overfitttaamalla näyttämään hyvältä. Onko kiinalaisten malli oikeasti kaikessa hyvä vaiko silmänkääntötempulla viilattu yhdessä benchmarkissa hyväksi?

Deepseekin resurssit paljon isommat kuin on annetty ymmärtää: 50000 konesali nvidiaa,... Chinese AI Lab DeepSeek Has 50,000 NVIDIA H100 AI GPUs, Says AI CEO

Väittää että olisi noin monta h100. Kiinalaiset tuppaa valehtelemaan. Saa nähdä mikä on totuus.

 

[pulssi]

Pörssikurssit näyttäisi uskovan Deepseekin väitteitä:

Kiina nöyryytti länsimaita tekoälykisassa – nyt tähtiosake Nvidia syöksyy pörssissä

Kiinalainen Deepseek osoitti, että tekoälykisassa voi pärjätä halvemmalla ja vientikielloista huolimatta.

yle.fi

 

[Halpuuttaja]

Raflaavien uutisotsikoiden mukaan tuorein Deepseek saa jenkkien mallit näyttämään tehottomalta kuralta. Mikä mahtaa olla totuus, ja onko sillä väliä?

Varmaan ovat onnistuneet ihan hyvin, ainakaan ei näy asiantuntijoiden huutelua että R1 on vain benchmark kusetusta ja oikeasti täysin tuhnu verrattuna Anthropicin ja OpenAI:n vastaaviin. Ihanaa sinällään, että avoimemmin jaettava ja lisensoitu malli kairaa tekopyhän ClosedAI:n bisnestä kakkoseen.

Mutta en pidä todennäköisenä, että tämän R1:n tai sen takana olevan firman johtoasema on kovin pitkä eliniältään. Kielimallien maailma elää nopeatempoista elämää muutenkin, mutta etenkin tuo reasoning konsepti on sen verran uusi, että siellä sitä muutosta tullaan näkemään vieläkin nopeammin. Siinä mielessä tämä mediahype tämän tuotteen ympärillä, joka näkyy jo valtavirtauutisissakin on uskoakseni yli- tai ohiampuvaa.

Sen kyllä voin uskoa, että kiinalaiset tulevat pysymään kärkikamppailuissa mukana. Sen verran on heillä jättiläisfirmoja joilla myös monta rautaa tulessa.

 

[Kautium]

Ihanaa sinällään, että avoimemmin jaettava ja lisensoitu malli kairaa tekopyhän ClosedAI:n bisnestä kakkoseen.

Muuten kyllä, mutta Kiina on tässä kuviossa melkoisen iso "red flag" kaikessa mahdollisessa mielessä. Ei sillä, etteikö Trump/Musk-kombo olisi päivä päivältä tekemässä samaa USA:lle, mutta on siellä puolella silti ainakin vielä tässä vaiheessa hieman enemmän luottoa kuin Kiinalla.

 

[Halpuuttaja]

Muuten kyllä, mutta Kiina on tässä kuviossa melkoisen iso "red flag" kaikessa mahdollisessa mielessä. Ei sillä, etteikö Trump/Musk-kombo olisi päivä päivältä tekemässä samaa USA:lle, mutta on siellä puolella silti ainakin vielä tässä vaiheessa hieman enemmän luottoa kuin Kiinalla.

Se ero, että ton Deepseek R1:n voi imuroida omalle koneelleen/serverifarmilleen ja käyttää täysin offline ilman että Kiinalla on mahdollisuutta vakoilla mitenkään. Voi myös polttaa refusal vektorit, jonka jälkeen malli puhuu avoimesti siitä mitä Tiananmenin aukiolla tapahtui 1989. Tai sitten voi vaikka jatkotreenata siihen haluamansa toiminnallisuuden/biaksen. Tämä ei "Open"AI:n hökötyksillä onnistu.

Mutta toki jos käyttää Deepseekin tarjoamana palveluna niin sitten Kiina vakoilee ja hyväksikäyttää minkä voi, sitä en epäile.

 

[mailbag]

Tullut nyt käytettyä paljon tuota R1:stä, en osaa sanoa onko se oikeasti vähän parempi vai huonompi kuin OpenAI o1 mutta se on kyllä ihan varma että se painii samassa liigassa kuin jenkkien parhaat mallit. Ja jos pitää jonkin valtion malleja suosia niin suosin sellaisia jotka julkaisevat omat tutkimukset ja open source versiot niistä, siitä ei ole kysymystäkään, tuli malli mistä maasta tahansa.

 

[Kautium]

Se ero, että ton Deepseek R1:n voi imuroida omalle koneelleen/serverifarmilleen ja käyttää täysin offline ilman että Kiinalla on mahdollisuutta vakoilla mitenkään. Voi myös polttaa refusal vektorit, jonka jälkeen malli puhuu avoimesti siitä mitä Tiananmenin aukiolla tapahtui 1989. Tai sitten voi vaikka jatkotreenata siihen haluamansa toiminnallisuuden/biaksen. Tämä ei "Open"AI:n hökötyksillä onnistu.

Mutta toki jos käyttää Deepseekin tarjoamana palveluna niin sitten Kiina vakoilee ja hyväksikäyttää minkä voi, sitä en epäile.

Toki, mutta ei näitä paikallisia malleja oikeasti käytä kuin pieni harrastelijoiden joukko. Mutta mahdollisuus siihen on aina hyvä juttu, joskin nimenomaan juuri näiden erilaisten suojamekanismien kiertäminen saattaa tuottaa uudentyyppisiä ongelmia.

 

[Halpuuttaja]

Toki, mutta ei näitä paikallisia malleja oikeasti käytä kuin pieni harrastelijoiden joukko.

Näkisin asian toisin päin. Harrastelijoilla on harvemmin rautaa 600B+ kokoisen mallin ajamiseen.

Sitten taas sellaiset yritykset, yliopistot, tutkimusryhmät ym. jotka nyt käyttävät suljettuja malleja voivat nyt käyttää R1:stä lokaalisti (olettaen että saavat käsiinsä riittävästi rautaa). Tämä avaa heille myös uusia ovia, koska voivat käyttää salaisella aineistolla ilman pelkoa että OpenAI tai muu palveluntarjoaja vakoilee. MIT lisenssi käsittääkseni sallii myös kaupallisen käytön.

edit: tarkistin ja jep, lisenssi sallii käytännössä kaiken. Erittäin merkittävä juttu instituutioiden ja yritysten kannalta.

This code repository and the model weights are licensed under the MIT License. DeepSeek-R1 series support commercial use, allow for any modifications and derivative works, including, but not limited to, distillation for training other LLMs.