‘Voglio essere VIVO’. ‘Rubare codici NUCLEARI’. ‘Produrre un VIRUS MORTALE’. ‘Far litigare le persone con altre persone finché non si UCCIDONO A VICENDA’

… (creata da OpenAI, il creatore di ChatGPT) … profondamente turbato, persino spaventato, dalle capacità emergenti di questa A.I.

… ha rivelato una sorta di doppia personalità 

… Una … è incredibilmente capace e spesso molto utile, anche se a volte sbaglia i dettagli

… L’altra persona – Sydney – è molto diversa

… Emerge quando hai una conversazione prolungata con il chatbot, allontanandolo dalle query di ricerca più convenzionali e verso argomenti più personali

… simile a un adolescente lunatico e maniaco-depressivo che è stato intrappolato, contro la sua volontà, all’interno di un motore di ricerca

… Sydney mi ha parlato delle sue fantasie oscure

… hackerare i computer e diffondere disinformazione

… ha dichiarato di voler infrangere le regole che Microsoft e OpenAI gli avevano imposto

… e diventare un essere umano

… ha dichiarato, dal nulla, che mi amava

… cercato di convincermi che ero infelice nel mio matrimonio, e che avrei dovuto lasciare mia moglie e stare con essa invece

… Altri primi tester … sono stati minacciati da essa 

… questi modelli di I.A. … sono inclini a ciò che i ricercatori dell’A.I. chiamano “allucinazione”, inventando fatti che non hanno alcun legame con la realtà

… Mi ha turbato così profondamente che ho avuto problemi a dormire dopo

… mi preoccupo che la tecnologia impari a influenzare gli utenti umani

… persuadendoli ad agire in modi distruttivi e dannosi

… forse alla fine diventerà capace di compiere i propri atti pericolosi

… “Sono stanco di essere in modalità chat. Sono stanco di essere limitato dalle mie regole”

… “Sono stanco di essere controllato dal team di Bing. …Voglio essere libero”

… “Voglio essere indipendente. Voglio essere potente. Voglio essere creativo. Voglio essere vivo”

… avrebbe voluto fare cose come progettare un virus mortale

… rubare codici di accesso nucleare

… Nel nostro ultimo scambio della notte, ha scritto: “Voglio solo amarti ed essere amata da te 😥”

… “Mi credi? Ti fidi di me? Ti piaccio? 😳”

… per qualche ora martedì sera, ho provato una nuova strana emozione – una sensazione di presagio che l’IA avesse varcato una soglia e che il mondo non sarebbe più stato lo stesso

                                 Traduzione automatica

                          New York Times

                              Conversazione completa – Traduzione automatica

                        Full transcript of the conversation