Τους τελευταίους μήνες έχει εμφανιστεί ένας νέος τύπος deepfake, γνωστός ως κλωνοποίηση φωνής, κατά τον οποίο η τεχνητή νοημοσύνη (AI) χρησιμοποιείται για την αντιγραφή της φωνής ενός ανθρώπου.
Η εταιρεία πίσω από το ChatGPT, OpenAI, είναι ο τελευταίος τεχνολογικός γίγαντας που αναπτύσσει λογισμικό κλωνοποίησης φωνής, αλλά δεν θα το κάνει διαθέσιμο για το κοινό. Η ανατριχιαστική τεχνολογία μπορεί να αντιγράψει τη φωνή οποιουδήποτε μέσα σε μόλις 15 δευτερόλεπτα ηχογραφημένης ομιλίας. Η OpenAI έκρινε αυτήν την τεχνολογία «πολύ επικίνδυνη» για δημόσια χρήση.
«Αναγνωρίζουμε ότι η παραγωγή ομιλίας που μοιάζει με τις φωνές των ανθρώπων ενέχει σοβαρούς κινδύνους, οι οποίοι είναι ιδιαίτερα επίκαιροι σε μια χρονιά εκλογών», ανέφερε σε ανακοίνωσή της η εταιρεία από το Σαν Φρανσίσκο.
Η OpenAI παρουσίασε την τεχνολογία «Voice Engine» την Παρασκευή, λίγο περισσότερο από μια εβδομάδα μετά την κατάθεση αίτησης για την κατοχύρωση του εμπορικού σήματος για το όνομα. Ισχυρίζεται ότι μπορεί να αναδημιουργήσει τη φωνή ενός ατόμου με μόλις 15 δευτερόλεπτα ηχογράφησης της ομιλίας του.
Η εταιρεία ανέφερε ότι θα την κάνει διαθέσιμη σε δοκιμαστές (testers), «αλλά δεν θα κυκλοφορήσει ευρέως αυτή την τεχνολογία αυτή τη στιγμή λόγω των κινδύνων κατάχρησης».
Στο Νιου Χαμσάιρ, οι αρχές ερευνούν ρομποτικά τηλεφωνήματα που στάλθηκαν σε χιλιάδες ψηφοφόρους λίγο πριν από τις προκριματικές προεδρικές εκλογές και τα οποία περιείχαν μια φωνή που δημιουργήθηκε από τεχνητή νοημοσύνη και μιμούνταν τον πρόεδρο Τζο Μπάιντεν. Ορισμένες νεοσύστατες εταιρείες πωλούν ήδη τεχνολογία κλωνοποίησης φωνής, ορισμένες από τις οποίες είναι προσβάσιμες στο κοινό ή σε επιλεγμένους επιχειρηματικούς πελάτες, όπως στούντιο ψυχαγωγίας.
Η OpenAI λέει ότι οι πρώτοι δοκιμαστές του «Voice Engine» έχουν συμφωνήσει να μην υποδυθούν κάποιον χωρίς τη συγκατάθεσή του και να αποκαλύψουν ότι οι φωνές είναι τεχνητής νοημοσύνης. Η εταιρεία, περισσότερο γνωστή για το chatbot και τη γεννήτρια εικόνων DALL-E, ακολούθησε παρόμοια προσέγγιση όταν ανακοίνωσε αλλά δεν κυκλοφόρησε ευρέως την γεννήτρια βίντεο Sora.
Ωστόσο, μια αίτηση εμπορικού σήματος που κατατέθηκε στις 19 Μαρτίου δείχνει ότι η OpenAI πιθανότατα σκοπεύει να μπει στην επιχείρηση αναγνώρισης ομιλίας και ψηφιακού βοηθού φωνής. Τελικά, η βελτίωση μιας τέτοιας τεχνολογίας θα μπορούσε να βοηθήσει την OpenAI να ανταγωνιστεί άλλα προϊόντα φωνής, όπως η Alexa της Amazon.
πηγή: enikos.gr
