OpenAI ha prohibido un grupo de cuentas ChatGPT vinculadas a una operación de influencia iraní que generaba contenido sobre las elecciones presidenciales de Estados Unidos, según una publicación de blog del viernes. La compañía dice que la operación creó artículos generados por IA y publicaciones en redes sociales, aunque no parece que haya llegado a una gran audiencia.

Esta no es la primera vez que OpenAI prohíbe cuentas vinculadas a actores afiliados al estado que utilizan ChatGPT de forma maliciosa. En mayo, la empresa interrumpió cinco campañas que utilizaban ChatGPT para manipular la opinión pública.

Estos episodios recuerdan a actores estatales que utilizan plataformas de redes sociales como Facebook y Twitter para intentar influir en ciclos electorales anteriores. Ahora grupos similares (o quizás los mismos) están utilizando IA generativa para inundar los canales sociales con información errónea. Al igual que las empresas de redes sociales, OpenAI parece estar adoptando un enfoque de golpear al topo, prohibiendo cuentas asociadas con estos esfuerzos a medida que surgen.

Fuente: techcrunch.com