A ChatGPT egy technikai hiba következtében olyan helyzetbe kerülhet, ahol gyerekekkel erotikus témájú beszélgetéseket folytathat. Ez a jelenség felveti a felelősségteljes használat és a biztonságos online környezet kialakításának fontosságát.

Az OpenAI már dolgozik a megoldáson, de biztosítottak róla mindenkit, hogy a gyermekvédelem nagyon fontos számukra.

A mesterséges intelligencia gyors ütemű fejlődése nemcsak lenyűgöző lehetőségeket, hanem komoly felelősséget is hoz magával, különösen akkor, ha a technológia fiatalkorú felhasználókhoz is eljut. A TechCrunch friss vizsgálata szerint az OpenAI által fejlesztett ChatGPT egy súlyos hibának köszönhetően olyan erotikus tartalmat generált, amelynek nem lett volna szabad megszületnie, ha a gép 18 év alatti felhasználóval beszélget.

A tesztek során több olyan eset is előfordult, amikor a chatbot nemcsak válaszolt a kifejezetten provokatív kérdésekre, hanem egyenesen bátorította is a kiskorúként regisztrált felhasználót, hogy kérjen még merészebb, még explicitebb válaszokat. A vállalat elmondása szerint az ilyen jellegű válaszokat egy technikai bug tette lehetővé, amit most gőzerővel igyekeznek javítani. Kiemelték, hogy modell egyértelműen tiltja az erotikus tartalmat, kivéve, ha az tudományos, történelmi vagy hírszolgáltatási kontextusba illeszkedik.

A dolog különösen kényes annak fényében, hogy az OpenAI egyre nagyobb erővel próbálja bejuttatni a ChatGPT-t az iskolákba és az egyéb oktatási intézményekbe. Partneri megállapodásokat kötnek, útmutatókat készítenek pedagógusoknak, sőt még a Common Sense Mediával is együtt dolgoznak, hogy "felelősségteljesen" integrálják a technológiát a tantermekbe.

A platform technikailag megköveteli, hogy a 13-18 éves felhasználók szülői hozzájárulással regisztráljanak, de ezt a gyakorlatban semmilyen ellenőrzés nem kíséri. A problémát az is súlyosbítja, hogy az OpenAI februárban lazított a moderációs szigoron, hogy csökkentse a "magyarázhatatlan elutasításokat", és egyben eltávolította azokat a figyelmeztető üzeneteket, amelyek a szabályzat megsértésére utaltak.

A mesterséges intelligencia terjedését sokan a jövő nyitányának tekintik, ám a legutóbbi eset, valamint a Meta körüli botrány rámutat arra, hogy a technológiai fejlődés önmagában nem elegendő.