IT-alan työpaikat

Arvostaako softapuolen työnantajat sysadmin/ylläpidon osaamista infrapuolelta windows/linux palvelimien sekä AWSn/Azuren jne. parista? Alkanut houkuttelemaan vaihto softapuolelle, kun alkanut puuduttamaan vuorotyö ja se ettei ole mahdollista etätöihin.
Ei kai sitä suuntautumista kokonaan tarvitse vaihtaa, ainakin itsellä 100% etätyömahdollisuus infrapuolella ja varsin joustavilla työajoilla, toki oncall erikseen mutta läppärin ja puhelimen kantaminen mukana ei ihan hirveästi elämää rajoita. Toki virtuaalipalvelimia/pilvessä pyörivää kamaa, eli fyysisiä palvelimia/laitteita ei tarvitse hiplailla, mutta aika vanhahtava firma saa olla jos tollaiselle on tarvetta
 
Ehkä allaoleva löyhästi liittyy it-alan työpaikkoihin. Mä uskon, että 10-15-20v sisään it-työpaikkojen luonne muuttuu kovasti. Useammassa paikassa mietitty "prompt-engineer" voi olla todellisuutta. Jos miettii turvallisuutta niin kannattaa tehdä hommia joita ei voi helposti automatisoida/hoitaa tekoälyllä. Toki openai:n nykysysteemi on primitiivinen, mutta kun pää on saatu auki niin jutuilla on tapana kehittyä. "Tee semmonen käyttöliittymä missä" tai "käännä tiedostot ja aja testi foo klusterissa X" tyylistä sanelua vois hyvin kuvitella tapahtuvan



Vielä jos se prompt engineer tykitetään neuralink:lla koneeseen kiinni niin alkaa tapahtumaan asioita jännittävillä tavoilla

 
Viimeksi muokattu:
Ei kai sitä suuntautumista kokonaan tarvitse vaihtaa, ainakin itsellä 100% etätyömahdollisuus infrapuolella ja varsin joustavilla työajoilla, toki oncall erikseen mutta läppärin ja puhelimen kantaminen mukana ei ihan hirveästi elämää rajoita. Toki virtuaalipalvelimia/pilvessä pyörivää kamaa, eli fyysisiä palvelimia/laitteita ei tarvitse hiplailla, mutta aika vanhahtava firma saa olla jos tollaiselle on tarvetta
Täällä on molempia, joten tarvitsee jonkun olla aina paikalla. Tekisi myös mieli työlle, jossa ei tarvitse olla saatavilla vapaalla.
 
Arvostaako softapuolen työnantajat sysadmin/ylläpidon osaamista infrapuolelta windows/linux palvelimien sekä AWSn/Azuren jne. parista? Alkanut houkuttelemaan vaihto softapuolelle, kun alkanut puuduttamaan vuorotyö ja se ettei ole mahdollista etätöihin.
Kyllä arvostaa. Täällä ei omaa rautaa käytännössä ole, mutta virtuaalista ja pilvi-infraa voisi olla enemmäkin. Pyöritellään siis sekä omaa että muiden infraa. Etätöinä mahdollista tehdä käytännössä täysin, on-call toki erikseen.
 
:)
Arvostaako softapuolen työnantajat sysadmin/ylläpidon osaamista infrapuolelta windows/linux palvelimien sekä AWSn/Azuren jne. parista? Alkanut houkuttelemaan vaihto softapuolelle, kun alkanut puuduttamaan vuorotyö ja se ettei ole mahdollista etätöihin.
Luonnistuuko Power BI tai M365 myös? Meidän firmassa vois olla tarvetta jannulle joka handlaa infraa ja softaa + low-code meininkiä.
 
Power BI on aika yleinen osaamistarve ilmoituksissa mutta itse en ainakaan tiedä yhtään mitä sen osaaminen käytännössä tarkoittaa. Sama toki pätee moneen muuhunkin "pilviosaajan" tms. kuvaukseen.
 
Ehkä allaoleva löyhästi liittyy it-alan työpaikkoihin. Mä uskon, että 10-15-20v sisään it-työpaikkojen luonne muuttuu kovasti. Useammassa paikassa mietitty "prompt-engineer" voi olla todellisuutta. Jos miettii turvallisuutta niin kannattaa tehdä hommia joita ei voi helposti automatisoida/hoitaa tekoälyllä. Toki openai:n nykysysteemi on primitiivinen, mutta kun pää on saatu auki niin jutuilla on tapana kehittyä. "Tee semmonen käyttöliittymä missä" tai "käännä tiedostot ja aja testi foo klusterissa X" tyylistä sanelua vois hyvin kuvitella tapahtuvan
Ongelmaksi tuon tyyppisissä virityksissä tulee se, että niistä saa mitä sattuu tulemaan. Jos haluaa tehdä clipart-tyylisen ääriyksinkertaisen pelin, jonka tekisi alle minuutissa millä tahansa pelistudiosoftalla, niin mikäs siinä. Oikeat ohjelmat vaativat hieman tarkempaa kuvailua kuin "laita joku raketti johonki". Riittävällä tarkkuudella ohjelman toimintaa kuvaavaa dokumenttia tavataan kutsua lähdekoodiksi.
 
Onhan noi paikat jo nytkin muuttunut paljon viimeisen 20v aikana, vaikea ajatella ettei muuttuisi vielä enemmän seuraavan 20v aikana.
 
Itse en näe mitään suuria mullistuksia IT-alalla 20v aikajänteellä. Ihan samaa kehitystä luvassa, mitä edellisetkin 20v on tehty.

Paitsi yksi potentiaalinen disruptori on olemassa, jonka vaikutuksia on minusta vaikea ennustaa.

Kvanttikoneiden esiinmarssi. Jos kvanttikoneaikaa voi oikeasti vuokrata helposti ja halvalla pilvestä, niin se voi muuttaa fundamentaalilla tavalla sitä, että mitä algoritmejä ja ongelmia ylipäätään tietokoneilla voidaan ratkoa. Ja kun joukko ongelmia ja algoritmejä avautuu käytettäväksi, niin se voi tarkoittaa täysin uusia sovelluskohteita tietokoneille.

Seuraukset voivat olla aika yllättäviä ja monet "best practicet" voivat vanhentua hetkessä, mikä voi muuttaa merkittävästi eri tuotteiden kilpailukykyisyyttä ja avata mahdollisuuksia niille, jotka ymmärtävät miten uusia työkaluja hyödynnetään asiakkaiden tarpeita palvelevilla tavoilla.

On toki myös mahdollista, että vaikutukset jäävät vähäisiksi ja antaisin sille skenaariolle kuitenkin suuremman todennäköisyyden kuin sille, että maailma mullistuu tosissaan.
 
  • Tykkää
Reactions: eba
Itse en näe mitään suuria mullistuksia IT-alalla 20v aikajänteellä. Ihan samaa kehitystä luvassa, mitä edellisetkin 20v on tehty.

Paitsi yksi potentiaalinen disruptori on olemassa, jonka vaikutuksia on minusta vaikea ennustaa.

Kvanttikoneiden esiinmarssi. Jos kvanttikoneaikaa voi oikeasti vuokrata helposti ja halvalla pilvestä, niin se voi muuttaa fundamentaalilla tavalla sitä, että mitä algoritmejä ja ongelmia ylipäätään tietokoneilla voidaan ratkoa. Ja kun joukko ongelmia ja algoritmejä avautuu käytettäväksi, niin se voi tarkoittaa täysin uusia sovelluskohteita tietokoneille.

Seuraukset voivat olla aika yllättäviä ja monet "best practicet" voivat vanhentua hetkessä, mikä voi muuttaa merkittävästi eri tuotteiden kilpailukykyisyyttä ja avata mahdollisuuksia niille, jotka ymmärtävät miten uusia työkaluja hyödynnetään asiakkaiden tarpeita palvelevilla tavoilla.

On toki myös mahdollista, että vaikutukset jäävät vähäisiksi ja antaisin sille skenaariolle kuitenkin suuremman todennäköisyyden kuin sille, että maailma mullistuu tosissaan.
Kvanttikoneet on tietynlainen musta hevonen joihinkin tiettyihin rajattuihin käyttötarkoituksiin. Niistä ei tule koskaan korvaajaa nykyisille PC:lle tai edes supertietokoneille, mutta kuten sanoit voivat toki olla hyvänä lisänä kun kyseessä on käyttötapaus, jossa kvanttilaskentaa voidaan hyödyntään.

Toisaalta jo nyt on jonkun verran soraääniä havaittavissa tutkijoilta liittyen siihen voidaanko kvanttikoneita hyödyntää mihinkään käytännön ongelmaan, koska kvanttikoneilla ei tulla välttämättä koskaan pääsemään riittävään virheenkorjauksen tasoon. En itsekään ole aihealueen asiantuntija, mutta nykyisten tietojen valossa suurin osa käytössä olevista kubiteista (yli 70%?) menee aina pelkkään virheenkorjaukseen eikä välttämättä tuota haluttua tulosta.
 
Viimeksi muokattu:
  • Tykkää
Reactions: eba
IT alalla on ainakin agile ja git flow olleet suuria muutoksia. Ihan erilaista olla nykyaan toissa kun 2000 luvulla.
 
Liittyy enää löyhästi aiheeseen, mutta kvantittietokoneet voi mullistaa tekoälyn kehityksen joka tekee osasta IT-osaajista työttömiä.

Tekoäly ja automaatio saattavat korvata ns. apinatyöt, mutta en kyllä vielä näe miten ne pystyisivät toteuttamaan yhtään kompleksimpia business keissejä. Tuollainen edellyttäisi että speksit ovat timantintarkat, sisältäen kaikki mahdolliset yksityiskohdat ja variaatiot, mikä on omien kokemuksien pohjalta aika harvinaista. On toki mahdollista että tekoäly generoi pohjan jonka kehittäjä sitten vie finaaliin, mutta tuollainen nyt ei ole hirveän vallankumouksellista vielä, koodigeneraattoreita on jo nyt.
 
  • Tykkää
Reactions: eba
Kai ne ekat prompt-engineer työpaikat ovat parempien tsättibottien tekemistä tai business datan hakemista ja mankelointia graafeiksi/exceliin. Machine Learning Street Talk:ssa oli hyvää keskustelua aiheesta. Tässä voi hämätä se, että nyt on saatu eka versio aikaiseksi joka toimii kivasti(gpt3). Ensimmäiset versiot ovat yleensä karuja, mutta jos toimii edes vähän niin kehitys voi olla todella nopeaa.

Koodintuotto gpt3:lla on mielenkiintoista. Koodipohjan voi tehdä prompt-luonteisesti ja sitten editoi käsin paremmaksi. Tyyliin parempi copy/paste kuin stack overflow/googlehaku. Jossain vaiheessa voit sen googlehaun tilalta nakuttaa speksin sisään ja saat koodipohjan mitä editoit paremmaksi käsin.

 
Viimeksi muokattu:
Kai ne ekat prompt-engineer työpaikat ovat parempien tsättibottien tekemistä tai business datan hakemista ja mankelointia graafeiksi/exceliin. Machine Learning Street Talk:ssa oli hyvää keskustelua aiheesta. Tässä voi hämätä se, että nyt on saatu eka versio aikaiseksi joka toimii kivasti(gpt3). Ensimmäiset versiot ovat yleensä karuja, mutta jos toimii edes vähän niin kehitys voi olla todella nopeaa.

Koodintuotto gpt3:lla on mielenkiintoista. Koodipohjan voi tehdä prompt-luonteisesti ja sitten editoi käsin paremmaksi. Tyyliin parempi copy/paste kuin stack overflow/googlehaku. Jossain vaiheessa voit sen googlehaun tilalta nakuttaa speksin sisään ja saat koodipohjan mitä editoit paremmaksi käsin.


Noita koodingenerointihässäköitä on ollut jo todella pitkään virittelyssä. 90-luvulla tuli jo ensimmäinen vastaan, joka yritti generoida toimivaa koodia sekvenssidiagrammeista, joihin piti sitten yrittää speksata tarkkaan toiminnallisuus.

Tiedä sitten mikä se nopea kehitys on, mutta se on kyllä totta, että ne ensimmäiset viritykset oli todella karuja :)
 
Noita koodingenerointihässäköitä on ollut jo todella pitkään virittelyssä. 90-luvulla tuli jo ensimmäinen vastaan, joka yritti generoida toimivaa koodia sekvenssidiagrammeista, joihin piti sitten yrittää speksata tarkkaan toiminnallisuus.

Tiedä sitten mikä se nopea kehitys on, mutta se on kyllä totta, että ne ensimmäiset viritykset oli todella karuja :)

Tuo linkattu systeemi ei ole perinteinen koodigenerointiviritys. Linkattu uusi juttu on koneopittu algoritmi nimeltänsä gpt-3

Generative Pre-trained Transformer 3 (GPT-3) is an autoregressive language model that uses deep learning to produce human-like text.

The quality of the text generated by GPT-3 is so high that it can be difficult to determine whether or not it was written by a human, which has both benefits and risks.[4] Thirty-one OpenAI researchers and engineers presented the original May 28, 2020 paper introducing GPT-3. In their paper, they warned of GPT-3's potential dangers and called for research to mitigate risk.[1]: 34  David Chalmers, an Australian philosopher, described GPT-3 as "one of the most interesting and important AI systems ever produced."[5]
GPT-3 - Wikipedia

gpt-3:lla on mielenkiintoinen kyky generoida ja "ymmärtää" tekstiä mukaanlukien koodi. Neuroverkot tuntuvat skaalavan erittäin mukavasti annetun datamäärän ja neuroverkon koon mukaan. Pelkkä gpt-3:en voi olla oleellisesti parempi, jos neuroverkon kokoa tuunataan isommaksi ja opetusmateriaalia lisätään/valikoidaan paremmin.

Mielenkiintoisin asia on, että kun tutkimusta viedään eteenpäin niin mihin gpt-4,5,6 tulee pystymään tulevaisuudessa? Isoin puute gpt-3:ssa on ettei se osaa keksiä asioita mitkä eivät ole opetusmateriaalissa mukana. Yksi tapa esittää tuo puute on sanoa lause "kulmapöytä haluaa oluen", gpt-3:en ei ymmärrä että siellä kulmapöydässä on ihminen joka haluaa oluen. Toinen tapa sotkea algoritmi on kysyä tyhmiä kuten montako jalkaa mahtuu kenkään.
 
Viimeksi muokattu:
  • Tykkää
Reactions: eba
Tuo linkattu systeemi ei ole perinteinen koodigenerointiviritys. Linkattu uusi juttu on koneopittu algoritmi nimeltänsä gpt-3



gpt-3:lla on mielenkiintoinen kyky generoida ja "ymmärtää" tekstiä mukaanlukien koodi. Neuroverkot tuntuvat skaalavan erittäin mukavasti annetun datamäärän ja koon pohjalta. Pelkkä gpt-3:en voi olla oleellisesti parempi, jos sen neuroverkon kokoa ja opetusmateriaalia tuunataan.

Mielenkiintoisin asia on, että kun tutkimusta viedään eteenpäin niin mihin gpt-4,5,6 tulee pystymään tulevaisuudessa?
Juu, katsoin kyllä mikä tuo on. Suurin ongelma lienee edelleen se, miten kerrotaan tasan tarkkaan, mikä on haluttu lopputulos. Aika harvoin riittää se, että toiminnallisuus on jotain sinnepäin. Tietty jos tuo ulostulo on koneoppimisen avulla lähempänä sellaista, mitä ihmiseläinkin jaksaa editoida eteenpäin ts. matkittu ja sovellettu oikeista koodiesimerkeistä, niin onhan se edistystä siihen spagettiin mitä 90-luvulla tuli pihalle.
 
Juu, katsoin kyllä mikä tuo on. Suurin ongelma lienee edelleen se, miten kerrotaan tasan tarkkaan, mikä on haluttu lopputulos. Aika harvoin riittää se, että toiminnallisuus on jotain sinnepäin. Tietty jos tuo ulostulo on koneoppimisen avulla lähempänä sellaista, mitä ihmiseläinkin jaksaa editoida eteenpäin ts. matkittu ja sovellettu oikeista koodiesimerkeistä, niin onhan se edistystä siihen spagettiin mitä 90-luvulla tuli pihalle.

Ton ongelman ratkaisu voi 10v päästä olla se prompt engineer työ jota tehdään gpt-5:en tms. päälle. Prompt engineer luo opetusmateriaalia neuroverkkoa varten ja kyhää niitä kuvauksia jonka pohjalta koodia tulee ulos. Luotu koodi on toimiva template, jota ihminen joko käyttää sellaisenaan tai parantaa. Toki tuolla gpt-3:lla jo tänä päivänä voi ratkaista kysymyksen, että miten tehdään ja asemoidaan nappi tms. Sen mikä ratkeaa googlettamalla/stack overflow+copy pastella on settiä minkä gpt-3:en voisi ratkaista jo tänään. Sen sijaan, että joku tekee ui-speksin ja joku toinen implementoi sen niin yksi tyyppi kirjoittaa ui:n auki tarinaksi, jonka pohjalta neuroverkko luo implementaation.

Mun on helppo kuvitella, että 10-15-20vuoden päästä applella/microsoftilla on iso kasa prompt engineerejä+hc koodereita töissä luomassa frameworkkiä mitä muiden firmojen prompt engineerit käyttävät. Nykyinen "helppo koodailu" muuttuu prompt engineer työksi ja hc-koodaus säilyy hc-koodauksena(linux kerneli, uusien neuroverkkojen/mallien luominen, täysin uudet algoritmit/ratkaisut joita ei ole voitu vielä neuroverkolle opettaa,...)
 
Viimeksi muokattu:
Tuo linkattu systeemi ei ole perinteinen koodigenerointiviritys. Linkattu uusi juttu on koneopittu algoritmi nimeltänsä gpt-3



GPT-3 - Wikipedia

gpt-3:lla on mielenkiintoinen kyky generoida ja "ymmärtää" tekstiä mukaanlukien koodi. Neuroverkot tuntuvat skaalavan erittäin mukavasti annetun datamäärän ja neuroverkon koon mukaan. Pelkkä gpt-3:en voi olla oleellisesti parempi, jos neuroverkon kokoa tuunataan isommaksi ja opetusmateriaalia lisätään/valikoidaan paremmin.

Mielenkiintoisin asia on, että kun tutkimusta viedään eteenpäin niin mihin gpt-4,5,6 tulee pystymään tulevaisuudessa? Isoin puute gpt-3:ssa on ettei se osaa keksiä asioita mitkä eivät ole opetusmateriaalissa mukana. Yksi tapa esittää tuo puute on sanoa lause "kulmapöytä haluaa oluen", gpt-3:en ei ymmärrä että siellä kulmapöydässä on ihminen joka haluaa oluen. Toinen tapa sotkea algoritmi on kysyä tyhmiä kuten montako jalkaa mahtuu kenkään.
Kannattaa suhtautua varauksella kaikkeen, mitä GPT-3:sta lukee. Vain rajattu joukko ihmisiä pääsee ylipäätään kokeilemaan sitä, ja ainakin Tom Scott sanoi, että hänen piti hyväksyttää järjestelmän generoimat tuotokset, joista sitten cherry-pickattiin ne, joita sai esitellä julkisesti.
 
Kannattaa suhtautua varauksella kaikkeen, mitä GPT-3:sta lukee. Vain rajattu joukko ihmisiä pääsee ylipäätään kokeilemaan sitä, ja ainakin Tom Scott sanoi, että hänen piti hyväksyttää järjestelmän generoimat tuotokset, joista sitten cherry-pickattiin ne, joita sai esitellä julkisesti.

Se mun linkkaama podcast aiheesta on hyvä kuunnella, jos asia kiinnostaa. Ne heput on päässeet käpistelemään gpt3:sta ja väittelivät aika ansiokkaasti siitä prompt-engineer aiheesta. Jakoi hyvin mielipiteet sekä lyhyemmän että pidemmän aikajänteen mahdollisuuksina. Muutenkin machine learning street talk on koneoppimiseen liittyen ihan superi podcast. Sitä kuuntelee niin karisee turhat ajatukset agi:n tulemisesta tai koneoppimisen kaikkivoipaisuudesta. Tuon takia mä ajattelen tätä asiaa 10-15-20v aikajänteellä. Lyhyellä tähtäimellä ei olla kuuhun menossa.

Jos koneoppimisen kokonaan jättää huomioimatta käy kuten nokialle applen kanssa. Pidempikin aikajänne on oleellinen ellei ala olemaan 55v+ ikävuosissa menossa ja eläke jo melkein ansaittu tai muilla keinoin tehty tarpeettomaksi sen miettiminen mitä duunailee 10,20,30 ja jopa 40v päästä.

Jos ei jaksa niitä pitkiä podcasteja niin mr. kilcher purkaa aika ansiokkaasti papereita ja konsepteja lyhyempien videoiden muotoon
 
Viimeksi muokattu:
Kannattaa suhtautua varauksella kaikkeen, mitä GPT-3:sta lukee. Vain rajattu joukko ihmisiä pääsee ylipäätään kokeilemaan sitä, ja ainakin Tom Scott sanoi, että hänen piti hyväksyttää järjestelmän generoimat tuotokset, joista sitten cherry-pickattiin ne, joita sai esitellä julkisesti.

Näinhän se on. GPT-3 tai mikään muukaan tekoälyviritys ei ymmärrä mitä se tekee. Kyseessä on älyttömän suuresta datamäärästä opitut lainalaisuudet. Osa tuloksista on hyviä, osa ei. Itse asiassa monet tutkijat ovat jo sitä mieltä että uusi "AI winter" on tulossa. Kaikki matalalla roikkuvat hedelmät on saavutettu, ja nyt vaadittaisiin uusi läpimurto että saataisiin jotain merkittävää aikaiseksi.
 
Kaikki matalalla roikkuvat hedelmät on saavutettu, ja nyt vaadittaisiin uusi läpimurto että saataisiin jotain merkittävää aikaiseksi.
Niinpä. Varsinkin, kun ottaa huomioon, että tuo aiempi läpimurtokin on suurelta osin vain seurausta paremmasta laskentatehosta.

Ihmiskunta ymmärtää "oikeasta" tekoälystä suunnilleen yhtä paljon kuin nykyinen tekoäly ymmärtää käsittelemistään ilmiöistä...
 
Gpt-3:selle on myös open-source vaihtoehtoja, esim. GPT-J-6B. Demoa voi kokeilla täältä: EleutherAI - text generation testing UI . Tuottaa joskus ihan säädyllistä koodia. Useimmiten ei... Mutta suunta on hyvä, ei ole epäilystäkään että tällaiset AI:t muuttavat ohjelmointia. Tosin tarvitaan vielä muutama iteraatio ennen kuin edes keskinkertaisten ohjelmoijien työpaikat on vaarassa.
 
Ei gpt:n tarvi olla mitenkään älykäs ollakseen hyödyllinen. Jos odottaa AGI:ta tms. niin ymmärrän hyvin, että olo on skeptinen. Ei kaikkien koodereiden työpaikkojen tarvi olla vaarassa, työnkuvat muuttuvat. Joskus oli hevoskuskeja, sitten tuli autot ja taksikuskit. Piiskantekijät tosin päätyivät nicheen. Ne kooderit, jotka katsovat nykytyötään ja olettavat, että about samaa saa tehdä 20v päästä ovat vaarassa ellei käy todella iso munkki.
 
Ton ongelman ratkaisu voi 10v päästä olla se prompt engineer työ jota tehdään gpt-5:en tms. päälle. Prompt engineer luo opetusmateriaalia neuroverkkoa varten ja kyhää niitä kuvauksia jonka pohjalta koodia tulee ulos. Luotu koodi on toimiva template, jota ihminen joko käyttää sellaisenaan tai parantaa. Toki tuolla gpt-3:lla jo tänä päivänä voi ratkaista kysymyksen, että miten tehdään ja asemoidaan nappi tms. Sen mikä ratkeaa

Haha, tuo kuulostaa hommalta jota tein jo kymmenen vuotta sitten, kyhäilin kuvauksia joiden perusteella melkein ihmisen tasolla kieltä ymmärtävät intialaiset generoivat koodia, jota sitten suomalaiset koodarit koittivat fiksata toimivaksi :rofl:
 
Tuntuu että tämä ”omg I found this youtube GPT-3 thing it will replace coders omg” yleisö on pääasiallisesti ihmisiä jotka eivät ole tehneet päivääkään softadevaajan hommaa eivätkä muutenkaan ymmärrä itse koodaamisesta, softaprojekteista tai alan teollisuudesta yhtään mitään. Tämä ei ollut mikään piikki ketään tämän ketjun henkilöä tai henkilöitä kohtaan vaan yleinen havainto vuosien varrelta.

Ei ohjelmointikieliä luotu sen takia että saataisiin jokin vittumainen ja hankala systeemi jotta ohjelmointi pysyisi matemaattiloogisesti lahjakkaiden ihmisten monopolissa. Ne luotiin sen takia että ne ovat paras mahdollinen kompromissi ihmisen ja koneen välillä. Jotain mitä molemmat voi ymmärtää.

Jos esim JS:n sijaan pitäisi kirjoittaa kuvailuja halutusta lopputuotteesta niin ei se ole mikään koodaamisen korvaaja vaan uusi abstraktiotaso tai uusi ”ohjelmointikieli”. Tosin tässä tapauksessa täysin arvaamaton ja epävakaa joten lopputulos pitäisi kuitenkin käydä rivi riviltä läpi.
Koko tilanne muistuttaa aikalailla aikaa kun konekielen suora kirjoittaminen lopetettiin ja kääntäjien avulla siirryttiin korkean tason kieliin.

Siinä vaiheessa kun käytössä on AI jolle voi sanoa että meneppä lukemaan Jirasta nuo päin vittua kirjoitetut tiketit, ota tarvittaessa maililla, slackin tai puhelimen kautta yhteys po, pm, sm, designereihin yms. varmistaaksesi vaatimukset, osallistu iltapäivä klo 3 arkkitehtuuripalaveriin aiheesta miten integroidaan elasticsearch uuteen tuotteeseen ja lopulta etsi googlesta jokin hyvä mutta halpa tooli feature flagien hallintaan jossa olisi mielellää natiivi iOS/Android SDK jne….voidaan puhua jonkin tason softadevaajan korvaamisesta. Sitä odotellessa.
 
Tuntuu että tämä ”omg I found this youtube GPT-3 thing it will replace coders omg” yleisö on pääasiallisesti ihmisiä jotka eivät ole tehneet päivääkään softadevaajan hommaa eivätkä muutenkaan ymmärrä itse koodaamisesta, softaprojekteista tai alan teollisuudesta yhtään mitään. Tämä ei ollut mikään piikki ketään tämän ketjun henkilöä tai henkilöitä kohtaan vaan yleinen havainto vuosien varrelta.

Jos viittaat minun niin en ole korvaamassa kooderia gpt-3:lla nyt tai gpt5:lla 10v päästä. Hommat voi helpottua ja muuttua. Esimerkisi jos konealgoritmille(ei tekoälylle) voi sanoa, että teeppäs python koodi joka lukee tiedoston, parsii rivit säännöllä X ja tulostaa kamat sortattuna voi muuttaa sitä millaista koodaaminen on/kuka on kooderi(prompt engineer). Saa sellaisen templaten, jonka päälle voi itse koodailla. Yllättävän moni "kooderi" noita nykyäänkin googlettelee stack overflow:sta. Tai samalla tapaa voi olla joku hae tietokannasta foo ja X, mankeloi tavalla z ja työnnä exceliin hommat, mitä konealgoritmi voi oppia tekemään lähitulevaisuudessa.

Toinen juttu voi olla joku UI-framework. Ihminen tekee opetusmateriaalit(koodit) miten tehdään nappi, lista, animoidaan joku juttu jne. Konealgoritmi osaa sitten tehdä kuvauksen pohjalta templaten, jota voi käsin rukata. Ei välttämättä tarvi ui-kooderin enää koodata sitä ui:ta, jos homma siirtyy enemmän prompt-engineer suuntaan. Prompt engineer rakentaa neuroverkon opetusmateriaaleja ja esimerkkejä miten prompt:ia käytetään. UI:ssa olisi sellainen mielenkiintoinen ominaisuus, että siihen ehkä voisi kehitellä palauteloopin missä käyttäjäpalautteen pohjalta generoidaan automaattisesti uutta UI:ta ja ehkä jopa käyttäjäkohtaista versiota,... Tyyliin osa porukasta antaa palautetta, että fontti on liian pieni/suuri, animaatiot on liian hitaita/nopeita,...

Se missä gpt3:en nähtäneen ensimmäisenä on erilaiset chatbot ratkaisut. Mä en vain jaksa uskoa, että nyt kun tuota ketsuppia on saatu tippa ulos pullosta, että teknologia jotenkin menisi taaksepäin. gpt3:en on yllättävän hyvä ottaen huomioon ettei sitä koskaan tarkoitettu koodigeneraattoriksi.

AI:ksi kutsuminen on iso karhunpalvelus. Mä en koe noita älykkäinä tai tekoälyjärjestelminä. Ne ovat koneopittuja algoritmeja, jotka voivat tehdä hyödyllistä tavaraa, jos opetusmateriaali on kunnossa. Ei siellä ole mitään älykkyytä, sitä tulee ulos mitä on opetusmateriaalissa sisällä.
 
Viimeksi muokattu:
  • Tykkää
Reactions: eba
Tuo linkattu systeemi ei ole perinteinen koodigenerointiviritys. Linkattu uusi juttu on koneopittu algoritmi nimeltänsä gpt-3



GPT-3 - Wikipedia

gpt-3:lla on mielenkiintoinen kyky generoida ja "ymmärtää" tekstiä mukaanlukien koodi. Neuroverkot tuntuvat skaalavan erittäin mukavasti annetun datamäärän ja neuroverkon koon mukaan. Pelkkä gpt-3:en voi olla oleellisesti parempi, jos neuroverkon kokoa tuunataan isommaksi ja opetusmateriaalia lisätään/valikoidaan paremmin.

Mielenkiintoisin asia on, että kun tutkimusta viedään eteenpäin niin mihin gpt-4,5,6 tulee pystymään tulevaisuudessa? Isoin puute gpt-3:ssa on ettei se osaa keksiä asioita mitkä eivät ole opetusmateriaalissa mukana. Yksi tapa esittää tuo puute on sanoa lause "kulmapöytä haluaa oluen", gpt-3:en ei ymmärrä että siellä kulmapöydässä on ihminen joka haluaa oluen. Toinen tapa sotkea algoritmi on kysyä tyhmiä kuten montako jalkaa mahtuu kenkään.

GPT-3 on pelkkä tekstigeneraattori. Se vain ennustaa tekstinpätkän perusteella mitä seuraavaksi todennäköisesti tulee. Toiminta perustuu koneoppimiseen, mutta järjestelmässä ei ole mitään tekoälyksi sanottavaa. Se ei ymmärrä mitään. Oikeastaan merkittävin enableri tuolle järjestelmälle on internet, josta löytyy opetusdataa riittävästi.

Nykyteknologialla GPT-3:sta ei ole tulossa mitään tuota erikoisempaa.
 
AI:n generoima koodi sisältää bugeja ja tietoturva-aukkoja siinä missä ihmistenkin, koska se on koulutettu ihmisten kirjoittamalla koodilla. Mitä tulee automaattiseen koodin generointiin ylipäänsä, niin kuka voisi luottaa sellaiseen?

Ennen kuin joku ehdottaa verifikointia AI:n avulla, kannattaa muistaa the halting problem.
 
Koko tilanne muistuttaa aikalailla aikaa kun konekielen suora kirjoittaminen lopetettiin ja kääntäjien avulla siirryttiin korkean tason kieliin.
Kääntäjä toimii kuitenkin deterministisesti. Assemblyguru joutui opettelemaan uusia temppuja kertoakseen kääntäjälle, minkälaisen lopputuloksen haluaa, mutta samassa tilanteessa samalla kääntäjällä lopputulos on kuitenkin aina sama. Työkaluun pystyi siis edelleen luottamaan, jos se vain toimi oikein. Tekoälyttömyys saattaa ottaakin yhtäkkiä täysin päinvastaisen kuun asennosta ja Redditin trendilistasta riippuen.
 
Osuipa vastaani työpaikkailmoitus. Ei nyt varsinaisesti IT-alan paikka, mutta melkoisen IT-painotteinen kuitenkin.
Hakijalta edellytetään vahvaa kokemusta massaspektrometriaineistojen analyysistä (DDA, DIA, SRM) sekä niihin liittyvästä menetelmäkehityksestä proteomiikan, fosfoproteomiikan ja metaproteomiikan lääketieteen sovelluksissa. Edellytämme myös kokemusta korkean tehon sekvensaattoreilla tuotettujen aineistojen analyysistä. Lisäksi edellytetään vahvaa näyttöä IT-osaamisesta, mukaan lukien:

  • Linux-järjestelmät ja niiden ylläpito
  • Ohjelmointitaidot: R, C/C++, Python, Bash, Java
  • Eräajojärjestelmät: SLURM
  • Versionhallintatyökalut: Git
--- palkka on keskimäärin 3100-3600 eur/kk.

Ymmärrän toki, että ei tässä haeta mitään datanomia tai assistenttia ja sen vuoksi vaatimuksia on paljon. Palkkauskin on varmaan ihan tyypillinen tutkijan palkka. Mutta silti omaan silmääni vaikuttaa, että tässä edellytetään kahden ihmisen osaamista vaikka palkkaa ollaan valmiita maksamaan alle yhdelle. Minkälaisia henkilöitä tällaisiin oikeasti palkataan? Onko realiteettien iskiessä vaatimuksista pakko karsia merkittävästi? Vai onko monella tohtorilla niin kova hinku tutkimustehtäviin, että silloin on valmis alihinnoittelemaan oman osaamisensa ihan tuntuvasti?
 
Osuipa vastaani työpaikkailmoitus. Ei nyt varsinaisesti IT-alan paikka, mutta melkoisen IT-painotteinen kuitenkin.


Ymmärrän toki, että ei tässä haeta mitään datanomia tai assistenttia ja sen vuoksi vaatimuksia on paljon. Palkkauskin on varmaan ihan tyypillinen tutkijan palkka. Mutta silti omaan silmääni vaikuttaa, että tässä edellytetään kahden ihmisen osaamista vaikka palkkaa ollaan valmiita maksamaan alle yhdelle. Minkälaisia henkilöitä tällaisiin oikeasti palkataan? Onko realiteettien iskiessä vaatimuksista pakko karsia merkittävästi? Vai onko monella tohtorilla niin kova hinku tutkimustehtäviin, että silloin on valmis alihinnoittelemaan oman osaamisensa ihan tuntuvasti?

Bonuksenahan tuolta löytyy vielä tämä
Tehtävään vaaditaan tohtorin tutkinto soveltuvalta alalta.

Ei kyllä tässä maassa yli-kouluttautuminen kannata. Kovemille ansioille pääsee tuolla IT osaamisella ja työkokemuksella tutkinnon sijaan. Tietysti jos halua on olla tutkija niin ei tuossa mitään.
 
Alla olevasta videosta piilaaksopalkkaa ilman isompaa kokemusta
20$/h harjoittelija
7000$/kk harjoittelija (microsoft, 3kk kesätyö)
170k$vuosi googlella(Työuran aloitus täyspäiväisenä)
215k$ vuosi googlella(täyspäiväinen, ylennys+palkankorotuksia, 2v kai takana googlella, kolmosvuosi meni tällä liksalla)
Nyt startupissa 200k$/vuosi(palkka) + ei likvidejä osakkeita 185k$/vuosi edestä. Teoriassa 385k$/vuosi.

Toki piilaakso on kallis asua, toisaalta työnantaja tarjoaa tervesyvakuutuksen, edut jne jne. Aika hyvin toi juniorikin sai liksaa. Uran tuossa vaiheessa voi ehkä vielä soluasua ja ei ole muksuja kouluunlaitettavana niin jää palkasta jotain käteenkin. Autot ja bensa halpoja, kuluttaminen kunniaan. Jos meinaa massia tehdä ja on mahdollisuus niin kannattaa käydä jokunen vuosi suomen ulkopuolella.

 
Viimeksi muokattu:
Bonuksenahan tuolta löytyy vielä tämä


Ei kyllä tässä maassa yli-kouluttautuminen kannata. Kovemille ansioille pääsee tuolla IT osaamisella ja työkokemuksella tutkinnon sijaan. Tietysti jos halua on olla tutkija niin ei tuossa mitään.
Onhan toi palkka ihan puhdasta vittuilua. Ymmärtämättä mitään massaspektrometreistä(?) ja sen puolen tehtävistä luulin että viittaat analytiikkaan kun puhut ”kahdesta alueesta”. Mut olihan siinä sitten myös ympäristöjen ylläpito, linux ja koodaaminen kirsikkana kakun päällä.

Yksityisellä puolella noin laajalla osaamisella pitäisi saada kolminkertaista liksaa.
 
Onhan toi palkka ihan puhdasta vittuilua. Ymmärtämättä mitään massaspektrometreistä(?) ja sen puolen tehtävistä luulin että viittaat analytiikkaan kun puhut ”kahdesta alueesta”. Mut olihan siinä sitten myös ympäristöjen ylläpito, linux ja koodaaminen kirsikkana kakun päällä.

Yksityisellä puolella noin laajalla osaamisella pitäisi saada kolminkertaista liksaa.

Tuskin tuossa nyt odotetaan mitään ammattilaisen softakoodarin tasoista IT-osaamista. Enemmänkin sitä että osaa käyttää noita ohjelmointikieliä sen verta mitä tarvitaan tuollaisessa tutkimustyössä.
Eiköhän vastaavia duuneja vastaavilla liksoilla ole yliopistot täynnä niin tässä maassa kuin muissakin.
 
Itse sain ton verran palkkaa aloittelevana koodarina ja koulutus on kuitenkin vaan elektroniikka-asentaja.
 
Itse sain ton verran palkkaa aloittelevana koodarina ja koulutus on kuitenkin vaan elektroniikka-asentaja.

Ja oliko kyseinen homma yliopistossa tutkijana?
Ei kai sen nyt pitäisi olla mikään ylläri ihmisille että tutkijoiden palkat yliopistoissa on erittäin paskoja verrattuna yksityiseen sektoriin?
 
Bonuksenahan tuolta löytyy vielä tämä


Ei kyllä tässä maassa yli-kouluttautuminen kannata. Kovemille ansioille pääsee tuolla IT osaamisella ja työkokemuksella tutkinnon sijaan. Tietysti jos halua on olla tutkija niin ei tuossa mitään.

Eihän tuossa tehtävässä kannata palkkausta katsella, vaan siinähän pääsee kivasti matkustelemaan veromaksajien piikkiin. Riitallakin tässä ihan kiva eläkevirka:

"Lahesmaan työhuoneesta Biocity-rakennuksen seitsemännestä kerroksesta on hieno näköala Turun yliopistollisen sairaalan suuntaan. Tai olisi ellei loppusyksyn 2019 tihkusade verhoaisi maisemaa.
Mutta Lahesmaan johtaman Turku Biosciencen tiloissa on kaikkea muuta kuin marraskuisen harmaata. Kuun alussa 60 vuotta täyttänyt Lahesmaa on juuri palannut työmatkoilta Kaliforniasta ja Sisiliasta, ja säteilee aikaerorasituksista huolimatta positiivista energiaa.

Sisiliassa Turun Biotiedekeskuksella oli kaikista osallistuneista organisaatioista Euroopan suurin edustus: Lahesmaa osallistui kansainvälisen INNODIA-projektin kokoukseen yhdessä viiden oman tutkimusryhmänsä jäsenen sekä neljän professori Laura Elon tutkimusryhmän jäsenen kanssa. Mukana oli myös useita muita suomalaisia diabetestutkijoita."


"Työpaikkakuvaus
Professori Riitta Lahesmaan ohjaamassa molekyylisysteemi-immunologian kansainvälisessä tutkimusryhmässä on avoinna tutkijatohtorin tehtävä.
"
 
Tuskin tuossa nyt odotetaan mitään ammattilaisen softakoodarin tasoista IT-osaamista. Enemmänkin sitä että osaa käyttää noita ohjelmointikieliä sen verta mitä tarvitaan tuollaisessa tutkimustyössä.
Eiköhän vastaavia duuneja vastaavilla liksoilla ole yliopistot täynnä niin tässä maassa kuin muissakin.
No sitä tuolla omalla kysymykselläni varsinaisesti hainkin takaa. Eli kun edellytetään "vahvaa näyttöä" noin erilaisista asioista, niin mitä se varsinaisesti tarkoittaa. Tutkijalle tarjottu palkka ei itseäni yllättänyt, mutta se kiinnostaa, että mitä tuolla rahalla oikeasti saa. Tai onko tiimistä lähtenyt lätkimään joku yksisarvinen juuri tuollaisella osaamisella, ja ilmoituksen ajatuksena on löytää ihan samanlainen tyyppi tilalle, jonka voisi vaan istuttaa samaan rooliin ilman mitään vaivannäköä. En itse varmaan olisi kiinnittänyt mitään huomiota ilmoitukseen, jos siinä olisi noista IT-puolen tehtävistä ilmoitettu että "lisäksi arvostamme".
 
Minä luin tuota tutkijatohtorihakua lähinnä niin, että haetaan henkilöä, joka on tottunut pyörittelemään ohjelmallisesti isompia datamassoja. R:ää on joutunut hyvin todennäköisesti käyttään yliopistomaailmassa, jos on tuolta alueelta väikkärin pukannut, minusta se on se kieli, jolla yliopistomaailmassa datoja pyöritellään ja eiköhän siellä linux-pannutkin ole tullut eteen. Tuosta Slurmista en osaa sanoa, kai sen oppii tolkun ihminen aika nopsaan, jos tuo muu pohja on vaan kondiksessa noista työkaluista ja itse substanssista.

Palkat on noissa tutkija(tohtori)pesteissä Suomessa tuota ja noihin voi olla paljonkin tunkua. Jos kiinnostaa yritysmaailman data-analytiikan pestit, niin varmaan niitä löytyy tuollaisella osaamisella, mutta ehkä kaikkia ei sit sellainen kiinnosta.
 
Viimeksi muokattu:
Tesla hakee työntekijöitä. Melko kova vaikutus hakijamääriin hiljattain pidetyllä ai-päivällä. Mun mielestä kiinnostavaa, että tesla ei enää katso papereita/muodollista pätevyytta. Vain mitä olet saanut aikaiseksi merkitsee. Mun mielestä melko kaksiteräinen miekka hakea vain "superosaajia". Joskus osien summa on isompi kuin yksittäiset tekijät. Silläkin on merkitystä miten tulee toimeen muiden kanssa ja mikä on dynamiikka tiimeissä.

 
Onhan Teslalla varaa nirsoilla, kuten noilla muillakin "big tech" firmoilla, kun hakijoita riittää jonoksi asti. Tosin käytännön saavutusten vahvistaminen lienee vähän vaikeampaa kuin tuo perinteinen Stanfordin/Harvardin tutkintopaperien tsekkaaminen. Lahjakas paskanpuhuja pääsee varmaan helpommin sisään, kun voi luetella pitkän listan "saavutuksia" joita ei pysty mitenkään järkevästi todentamaan. Tyyliin "kehitin järjestelmän X firmassa Y", todellisuudessa teit muutaman commitin silloin tällöin.
 
Onhan Teslalla varaa nirsoilla, kuten noilla muillakin "big tech" firmoilla, kun hakijoita riittää jonoksi asti. Tosin käytännön saavutusten vahvistaminen lienee vähän vaikeampaa kuin tuo perinteinen Stanfordin/Harvardin tutkintopaperien tsekkaaminen. Lahjakas paskanpuhuja pääsee varmaan helpommin sisään, kun voi luetella pitkän listan "saavutuksia" joita ei pysty mitenkään järkevästi todentamaan. Tyyliin "kehitin järjestelmän X firmassa Y", todellisuudessa teit muutaman commitin silloin tällöin.

Mulla on muutama tuttu teslalla töissä. Useamman tarinan kuullut missä porukka käy vain teslalla pyörähtämässä. Kasetti ei kestä/tulee potkut. Siellä on kai melkoinen painekattila olemassa ja pitää saada aikaiseksi. Mulle on jäänyt elonin puheista kuva, että teslalla on paljon vaikeuksia löytää sellaisia työntekijöitä, jotka pärjäävät ja jaksavat olla teslalla töissä. Asiaa ei varmaan auta se, että musk twitterissä laukoo lupauksia seuraavan viikon beta softaversiosta.
 
Mulla on muutama tuttu teslalla töissä. Useamman tarinan kuullut missä porukka käy vain teslalla pyörähtämässä. Kasetti ei kestä/tulee potkut. Siellä on kai melkoinen painekattila olemassa ja pitää saada aikaiseksi. Mulle on jäänyt elonin puheista kuva, että teslalla on paljon vaikeuksia löytää sellaisia työntekijöitä, jotka pärjäävät ja jaksavat olla teslalla töissä. Asiaa ei varmaan auta se, että musk twitterissä laukoo lupauksia seuraavan viikon beta softaversiosta.
Joo olen itsekin kuullut samanlaisia juttuja netissä ja ihan itse firmassa työskenteleviltä että näistä isoista firmoista yksi vittumaisimmista ellei vittumaisian työpaikka.
 
Jotenkin vahvistuu entisestään vaikutelma teslasta pöhinäpajana. On tuolla varmasti koviakin osaajia, mutta Jos kovalla gurulla mahdollista valita vittumaisen ja mukavan firman välillä kumpaankohan hän mieluiten hakeutuu.
 
Jotenkin vahvistuu entisestään vaikutelma teslasta pöhinäpajana. On tuolla varmasti koviakin osaajia, mutta Jos kovalla gurulla mahdollista valita vittumaisen ja mukavan firman välillä kumpaankohan hän mieluiten hakeutuu.

Teslalle päätyy vain tietyntyyppiset heput. Ne jotka haluaa ratkoa vaikeita haasteita ja tykkäävät, että on koko pakka käsissä(rauta, softa, lopputuote). Elämä on täysin työn ympärillä. Päinvastaisesti ajattelevat heput löytyvät sit valtion/kunnan töistä ja loput on sielä välissä. "oon vain töissä täällä, 9-17 aikaleimalla".

En usko, että teslan malli skaalaa. Teslan haluamia tyyppejä on kovin vähän. Osaako ne vähätkään työskennellä yhdessä,... Jossain vaiheessa tesla joutuu muuttumaan normaalimmaksi yritykseksi. Ehkä se normalisoituminen tapahtuu sitten, kun hommat menee enemmän ylläpitomoodiin. Nythän teslalla yritetään ratkaista haastetta, jota kukaan ei ole vielä ratkaissut. Siinä sivussa tekivät myös omat kiihdyttimet/tietokoneet, softan, autot, akut, tehtaiden automatisoinnin jne.
 
On kyllä linkkarissa headhunterit ja firmat aktivoituneet. Tänään veti joku Hewlett-Packardin kaiffari jo aika lavealla pyssyllä, kun viestitti meikäläiselle jostain HPC (high speed computing) teknisen support konsultin roolista Kajaaniin. Jotain Linux-palvelinten, tiedostojärjestelmien, raudan asennusta ja ylläpitoa tjsp. Pitäs tietty olla Kajaanissa ja rooliin kuuluis joku kiertävä viikon 24/7 päivystys, niin kiinnostais ns. vtusti lähteä täältä himasta leppoisista etätöistä ja integraatioiden koodailuista tuommoseen :D Kai mulla Linux jossain lukee osaamisessa, kun kyllähän sitäkin puolta on joutunut jonkin verran tunkkaamaan.

Ja paljon on tullut kyllä ihan osaamiseenkin osuvaa kontaktia, mutta ei oo viittinyt lähteä pelkän rahan perässä vaihtamaan. Usein vielä haluttais jonkun sellaisen työkalun kanssa värkkääjää (Frends, Mulesoft jne.), joka ei hirveästi nappaa ja oon aika yläpäässä jo entuudestaan palkkahaarukoita, mitä noista oltais maksamassa.

muoks. integraatiokehitystä teen siis ja siinä kyljessä Kubernetes- ja pilvi-infran tunkkausta, valvontaa jne.
 
Osuipa vastaani työpaikkailmoitus. Ei nyt varsinaisesti IT-alan paikka, mutta melkoisen IT-painotteinen kuitenkin.


Ymmärrän toki, että ei tässä haeta mitään datanomia tai assistenttia ja sen vuoksi vaatimuksia on paljon. Palkkauskin on varmaan ihan tyypillinen tutkijan palkka. Mutta silti omaan silmääni vaikuttaa, että tässä edellytetään kahden ihmisen osaamista vaikka palkkaa ollaan valmiita maksamaan alle yhdelle. Minkälaisia henkilöitä tällaisiin oikeasti palkataan? Onko realiteettien iskiessä vaatimuksista pakko karsia merkittävästi? Vai onko monella tohtorilla niin kova hinku tutkimustehtäviin, että silloin on valmis alihinnoittelemaan oman osaamisensa ihan tuntuvasti?
Jos nyt palataan tähän niin tuo palkka on ihan normaali juuri väitelleen tutkijatohtorin palkka. Yliopistotutkijalla palkka nousee johonkin 4-5k. Tyypilliset ohjelmointikielet joita käytetään koneoppimisessa sekä tilastollisessa analyysissä. Ainoa mikä tuossa pistää silmään on Linux järjestelmien ylläpito ja bash, mutta veikkaisin että kyseessä on joku klusterilaskentatyyppinen hässäkkä jota tarkoitus ylläpitää ja ohjelmoida.
 

Statistiikka

Viestiketjuista
262 472
Viestejä
4 553 018
Jäsenet
74 989
Uusin jäsen
Verri_T

Hinta.fi

Back
Ylös Bottom