martes 9  de  abril 2024
CIENCIA

Promueven el uso seguro de la Inteligencia Artificial (IA) en jóvenes

La creadora de ChatGPT trabajará con Common Sense Media para crear herramientas que se adapten para su uso seguro en entornos educativos

Por Yolanda Ojeda

SAN FRANCISCO.- La Organización Common Sense Media, el grupo de defensa de niños y familias, anunció en un evento en San Francisco, una asociación con OpenAI , la creadora de ChatGPT para ayudar a aprovechar todo el potencial de la Inteligencia Artificial (IA) para adolescentes y familias y minimizar los riesgos en el uso de estos desarrollos tecnológicos en los entornos educativos.

Inicialmente, las dos organizaciones colaborarán en pautas de IA y materiales educativos para padres, educadores y jóvenes, así como en una selección de GPT para familias en la Tienda GPT basada en calificaciones y estándares de la organización que ha señalado que cada vez es más difícil saber si estamos hablando con personas reales en línea, por lo que se busca ayudar a los estudiantes a explorar por qué los chatbots están diseñados para parecer humanos y porqué se requiere tener una visión crítica y consciente del tema.

Embed - https://publish.twitter.com/oembed?url=https://twitter.com/CommonSenseEd/status/1751357915707977769&partner=&hide_thread=false

"La IA ofrece beneficios increíbles para las familias y los adolescentes, y nuestra asociación con Common Sense fortalecerá aún más nuestro trabajo de seguridad, garantizando que puedan utilizar nuestras herramientas con confianza", afirmó Sam Altman, director ejecutivo de OpenAI.

"Juntos trabajaremos para garantizar que la IA tenga un impacto positivo en todos los adolescentes y familias", afirmó James P. Steyer, fundador y director ejecutivo de Common Sense Media, ente dedicado a mejorar las vidas de los niños y las familias brindando información confiable y educativa. "Nuestras guías y selección estarán diseñadas para educar sobre el uso seguro y responsable de ChatGPT, de modo que podamos evitar colectivamente cualquier consecuencia no deseada de esta tecnología emergente".

La inteligencia artificial ha emergido como un avance que podría significar el cambio más disruptivo experimentado por la humanidad, incluso por encima de la llegada de internet. Sin embargo, así como tiene el potencial de proporcionar enormes beneficios, sin la adopción generalizada de prácticas responsables, es igualmente capaz de causar grandes daños, dijo Common Sense.

OpenAI está consciente de la creciente necesidad de empezar a educar sobre la IA y de hecho, espera ganarse la confianza de los padres y de los formuladores de políticas asociándose con organizaciones que trabajan para minimizar los daños de la tecnología en niños, preadolescentes y adolescentes.

La preocupación principal de la organización sin ánimo de lucro radica en la necesidad de desarrollar y utilizar la IA de manera responsable, ética e inclusiva desde su concepción, por lo que un acuerdo de este tipo va en esta dirección.

De hecho, reconoce que la excelencia técnica no es suficiente y señala que estos modelos deben ser considerados desde una perspectiva socio-técnica, lo que implica una interdependencia entre la tecnología, los seres humanos y los procesos creados por estos últimos.

Una brecha entre padres e hijos

Según una investigación de Impact Research, mientras un 58% de los estudiantes de entre 12 y 18 años ha utilizado ChatGPT, solo un 30% de los padres de niños en edad escolar han tenido experiencia con esta herramienta, una brecha que debe achicarse para que haya una responsabilidad consciente de la IA en los más jóvenes.

En esta alianza se trabajará en la creación de un sistema de clasificación y revisión especialmente diseñado para IA, enfocándose en elementos como el fomento del aprendizaje y el respeto a los derechos humanos.

OpenAI y Common Sense pretenden explorar cómo personalizar modelos de lenguaje para aplicaciones educativas, permitiendo a los adolescentes acceder a información relevante en campos como las ciencias y la biología.

Asimismo, se comprometen a trabajar juntos para la selección de aplicaciones conocidas como GPT “familiares” dentro de la GPT Store, adecuadas para el uso juvenil porque mantienen las normas y valores promovidos por la organización.

“La IA ofrece beneficios para las familias y los adolescentes, y esta asociación fortalecerá aún más nuestro trabajo de seguridad, garantizando que las familias y los adolescentes puedan utilizar nuestras herramientas con confianza”, afirmó el ejecutivo.

Capacidad de los usuarios

Aunque reconoce los riesgos de las imágenes generadas por IA, la empresa confía en la capacidad de los usuarios para discernir la veracidad de las mismas. Mientras que destacó los esfuerzos de OpenAI para monitorear y responder ante el uso indebido de la IA.

OpenAI, se estableció en diciembre de 2015, es un laboratorio de investigación de IA con la misión de promover la inteligencia artificial de una manera segura, responsable y universalmente beneficiosa. Reconocido por su trabajo pionero en el procesamiento del lenguaje natural, ejemplificado por proyectos como ChatGPT, OpenAI ha influido significativamente en la industria publicitaria.

FUENTE: Organización Common Sense Media / Infobae / Impact Research

Temas

¡Recibe las últimas noticias en tus propias manos!

Descarga LA APP

Deja tu comentario

Te puede interesar