Tuo linkattu systeemi ei ole perinteinen koodigenerointiviritys. Linkattu uusi juttu on koneopittu algoritmi nimeltänsä gpt-3
GPT-3 - Wikipedia
en.wikipedia.org
gpt-3:lla on mielenkiintoinen kyky generoida ja "ymmärtää" tekstiä mukaanlukien koodi. Neuroverkot tuntuvat skaalavan erittäin mukavasti annetun datamäärän ja neuroverkon koon mukaan. Pelkkä gpt-3:en voi olla oleellisesti parempi, jos neuroverkon kokoa tuunataan isommaksi ja opetusmateriaalia lisätään/valikoidaan paremmin.
Mielenkiintoisin asia on, että kun tutkimusta viedään eteenpäin niin mihin gpt-4,5,6 tulee pystymään tulevaisuudessa? Isoin puute gpt-3:ssa on ettei se osaa keksiä asioita mitkä eivät ole opetusmateriaalissa mukana. Yksi tapa esittää tuo puute on sanoa lause "kulmapöytä haluaa oluen", gpt-3:en ei ymmärrä että siellä kulmapöydässä on ihminen joka haluaa oluen. Toinen tapa sotkea algoritmi on kysyä tyhmiä kuten montako jalkaa mahtuu kenkään.