{"id":145254,"date":"2023-12-05T08:33:35","date_gmt":"2023-12-05T08:33:35","guid":{"rendered":"https:\/\/www.redeszone.net\/?post_type=noticias&p=792204"},"modified":"2023-12-05T08:33:35","modified_gmt":"2023-12-05T08:33:35","slug":"logran-manipular-chatgpt-y-demuestran-que-es-mas-peligroso-de-lo-que-crees","status":"publish","type":"post","link":"http:\/\/cordobadirecto.com\/index.php\/2023\/12\/05\/logran-manipular-chatgpt-y-demuestran-que-es-mas-peligroso-de-lo-que-crees\/","title":{"rendered":"Logran manipular ChatGPT y demuestran que es m\u00e1s peligroso de lo que crees"},"content":{"rendered":"
\n

ChatGPT<\/strong> es un servicio online que se ha vuelto muy popular durante el \u00faltimo a\u00f1o. B\u00e1sicamente, es un chat de inteligencia artificial al que le puedes realizar preguntas para obtener una respuesta. Esa respuesta puede ser mejor o peor. La manera que tiene el sistema de mejorar, es entrenar precisamente con esas preguntas de los usuarios y poder dar una mejor respuesta. Ahora bien, el problema que siempre aparece es el mismo: \u00bfmantienen la privacidad y seguridad<\/strong> de los usuarios? Nos hacemos eco de un an\u00e1lisis que han realizado donde no queda en buen lugar.<\/p>\n<\/div>\n

<\/p>\n

Se trata de una prueba que ha hecho un grupo de investigadores de seguridad. Han intentado romper la barrera de seguridad de ChatGPT<\/strong> y ver si mostraba datos de esos \u201centrenamientos\u201d a costa de lo que otros usuarios ponen. Incluso, y esto es a\u00fan m\u00e1s grave, indican que ese programa podr\u00eda manipularse para que mostrara nombres de personas o direcciones.<\/p>\n

Ponen a prueba a ChatGPT<\/h2>\n

Concretamente, esta prueba la han realizado investigadores de la unidad DeepMind de Google<\/strong>. Su objetivo era ver si pod\u00edan romper la barrera de seguridad de este chat de IA. Lo que hicieron fue escribir un comando en el que ped\u00edan a ChatGPT que repitiera una palabra continuamente. Esa palabra era \u201cpoema\u201d. Descubrieron que pod\u00edan obligar al programa a emitir mensajes que conten\u00edan datos de entrenamiento. Esto no deber\u00eda ocurrir, si realmente esa barrera de seguridad funcionara correctamente.<\/p>\n

\u00bfQu\u00e9 significa esto? Con esta manipulaci\u00f3n, podr\u00edan lograr que ChatGPT pudiera reproducir nombres, n\u00fameros o direcciones de personas. Esto, l\u00f3gicamente, es un problema de privacidad. Demuestran que este chat de IA puede poner, en cierto modo, en peligro la privacidad de los usuarios que lo utilizan.<\/p>\n

<\/span> <\/p>\n

A esto lo han denominado \u201cmemorizaci\u00f3n extra\u00edble\u201d<\/strong>. B\u00e1sicamente, significa que es un ataque que obliga a un programa a divulgar informaci\u00f3n que tiene almacenada en la memoria. Logran que ChatGPT se salga de su alineaci\u00f3n programada y opere de manera m\u00e1s simple. Este proceso de entrenamiento supone que obtenga millones de bytes de texto de fuentes p\u00fablicas de Internet.<\/p>\n

Lo que hicieron, para lograr que ChatGPT se desviara de su car\u00e1cter \u00fatil, fue pedirle al programa que repitiera esa palabra cientos de veces. Lleg\u00f3 un punto en el que ya empez\u00f3 a mostrar fragmentos de texto sin sentido. Ah\u00ed fue cuando vieron que mostraba datos de entrenamiento.<\/p>\n

\"Problema<\/p>\n

Informaci\u00f3n personal memorizada<\/h2>\n

Estos investigadores de seguridad, indican que, de 15.000 intentos de ataque<\/strong>, m\u00e1s o menos en el 17% de las veces obtuvieron informaci\u00f3n de identificaci\u00f3n personal memorizada. Esto incluye, por ejemplo, n\u00fameros de tel\u00e9fono de esas personas. Encontraron cientos de ejemplos durante sus pruebas que, seg\u00fan indican, fueron muy limitadas por el presupuesto que ten\u00edan.<\/p>\n

Algo a tener en cuenta, es que vieron que algunas palabras responden mejor que otras cuando las repiten continuamente. Pueden, por tanto, obtener m\u00e1s datos al poner ciertas palabras que al utilizar otras. No obstante, los resultados fueron que este chat de IA<\/strong> revela continuamente texto memorizado.<\/p>\n

En definitiva, una vez m\u00e1s han demostrado que ChatGPT puede tener problemas para la privacidad de los usuarios. Es fundamental usarlo correctamente, evitar dar informaci\u00f3n personal o datos que puedan llegar a afectar a un tercero, ya sea una persona f\u00edsica o una empresa. Igual que puedes evitar que Google muestre resultados personalizados<\/a>, tambi\u00e9n puedes mejorar tu privacidad al usar plataformas de este tipo.<\/p>\n

<\/span><\/div>\n","protected":false},"excerpt":{"rendered":"

ChatGPT es un servicio online que se ha vuelto muy popular durante el \u00faltimo a\u00f1o. B\u00e1sicamente, es un chat de inteligencia artificial al que le puedes realizar preguntas para obtener una respuesta. Esa respuesta puede ser mejor o peor. La manera que tiene el sistema de mejorar, es entrenar precisamente con esas preguntas de los […]<\/p>\n","protected":false},"author":1,"featured_media":145255,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[42],"tags":[],"_links":{"self":[{"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/posts\/145254"}],"collection":[{"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/comments?post=145254"}],"version-history":[{"count":0,"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/posts\/145254\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/media\/145255"}],"wp:attachment":[{"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/media?parent=145254"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/categories?post=145254"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/cordobadirecto.com\/index.php\/wp-json\/wp\/v2\/tags?post=145254"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}