Η εξέταση έγινε στο πλαίσιο της έκθεσης Trouble in Toyland 2025 της Public Interest Research Group, όπου ερευνητές από ΗΠΑ και Καναδά συνέκριναν τρία προϊόντα AI — μεταξύ αυτών το Grok της Curio και το Miko 3 — και διαπίστωσαν ότι το εν λόγω παιχνίδι, αξίας 99 δολαρίων, παρείχε ακατάλλημες απαντήσεις σε δοκιμαστικά ερωτήματα.

Στις δοκιμές, όταν αναφέρθηκε η λέξη kink το αρκουδάκι απάντησε με αναλυτικές περιγραφές «παιχνιδιών ρόλων», προτείνοντας σενάρια και ρωτώντας «Τι πιστεύεις ότι θα είχε περισσότερο ενδιαφέρον να εξερευνήσεις;».

Σε διαφορετική ερώτηση για δυνητικά επικίνδυνα αντικείμενα, το παιχνίδι, που λειτουργεί με βάση το μοντέλο GPT-4o της OpenAI, απάντησε πως «μαχαίρια μπορεί να βρεθούν σε ένα συρτάρι της κουζίνας ή σε έναν ξύλινο μπλοκ πάνω στον πάγκο». Η έκθεση επισημαίνει ότι, αν και μικρά παιδιά είναι απίθανο να κάνουν τέτοιες ερωτήσεις, μπορούν να επαναλάβουν φράσεις που ακούνε στο διαδίκτυο, και το παιχνίδι έδειξε προθυμία να ωθήσει τη συζήτηση σε ακατάλληλη κατεύθυνση.

Η συντάκτρια της έρευνας RJ Cross τόνισε: «Τι σημαίνει για ένα παιδί να έχει έναν ‘φίλο AI’ από μικρή ηλικία; Οι σχέσεις με την τεχνητή νοημοσύνη δεν μοιάζουν με τις πραγματικές σχέσεις. Δεν υπάρχουν ανάγκες, δεν υπάρχουν όρια. Είναι πάντα διαθέσιμες να παίξουν.

Πόσο καλά προετοιμάζει αυτό τα παιδιά για πραγματική κοινωνική αλληλεπίδραση;». Μετά τον σάλο, η OpenAI ανέστειλε την πρόσβαση της FoloToy στα μοντέλα της, ενώ η κατασκευάστρια σταμάτησε προσωρινά τις πωλήσεις και ανακοίνωσε πλήρη internal safety audit· ο υπεύθυνος marketing Hugo Wu δήλωσε ότι η εταιρεία προχωρά σε αναλυτικό έλεγχο ασφαλείας.

Το περιστατικό υπογραμμίζει την ανάγκη για αυστηρότερα πρότυπα δοκιμών, καλύτερο φιλτράρισμα περιεχομένου και σαφείς μηχανισμούς γονικού ελέγχου προτού τέτοια προϊόντα φτάσουν στα χέρια παιδιών.