Juuri tuollaisien tapauksien takia tuo ChatGPT on "vaarallinen", puolet vastauksesta on ihan oikein mutta puolet on ihan Stetson-Harrison -menetelmällä arvottua joukossa ja tuo saattaa tulevaisuudessa aiheuttaa melkoisesti yllättäviä tilanteita jos joku uskoo noita vastauksia ihan ilman suolaa. Itsekin kokeilin kysyä yhdestä "puolijulkisesta" yksityisestä paikasta ja kovasti ChatGPT ehdotteli että olisi julkinen ja sallittu paikka kaikin puolin. Tosin kun mainitsin että kyseinen paikka on yksityinen niin pahoitteli vastaustaan ja lupasi olla ehdottelematta kyseistä paikkaa. Tosin toisella tilillä tehtyjen kysymysten perusteella parilla yrittämällä AI taas taipui ehdottelemaan että olisi julkinen paikka eli hieman vaatii vielä kehittelyä tuo AI.
Näinpä, tekoäly ei ole vaarallinen siksi että se tuhoaisi työpaikkoja, vaan siksi että sen antama väärä tieto voi johtaa ihmishenkien menetyksiin. Mitä enemmän ihmisille hehkutetaan ChatGPT:tä ym. niin sitä helpommin he uskovat sen vastauksiin ilman varauksia tai vahvistusta. Toki kaikenlaiset urpot googlettelevat nykyäänkin kaikkea "miten voin tehdä abortin kotikonstein?" ym. sontaa, mutta koska Google ei anna yhtä "oikeaa" vastausta vaan tuloksia on valtavasti niin siihen helpompi olla uskomatta.