lunes 28 de noviembre de 2022
Cursos de periodismo

Así se entrena a un «chatbot» para que no dé respuestas peligrosas

El truco para crear un buen chatbot impulsado por IA podría ser que las personas le digan cómo se tiene que comportar y obligar al modelo a respaldar sus afirmaciones usando internet. Esto sostiene un nuevo artículo del laboratorio de inteligencia artificial (IA) DeepMind, propiedad de Alphabet.

En un nuevo estudio (no revisado aún por pares, pero publicado recientemente), el equipo de DeepMind presenta Sparrow, un nuevo chatbot de IA entrenado en el modelo de lenguaje Chinchilla del mismo laboratorio.

Sparrow está diseñado para hablar con personas y responder a sus preguntas, utilizando búsqueda de Google en directo o información para respaldar esas respuestas. Dependiendo de la utilidad de sus respuestas, determinada por las personas participantes, el modelo se entrena luego con un algoritmo de aprendizaje reforzado, que aprende por prueba y error para lograr un objetivo específico. Este sistema pretende ser un paso adelante en el desarrollo de una IA con la capacidad de hablar con los humanos sin consecuencias peligrosas, como, por ejemplo, animar a las personas a hacerse daño a sí mismas o a los demás.

technologyreview.es  (www.technologyreview.es)