Discoursive production of generative language systems

Summary: Este projeto de pesquisa aborda a produção discursiva, em textos ou imagens, dos sistemas de inteligência artificial (IA) baseados em modelo de linguagem gerativa. Com rápida disseminação, esses dispositivos têm se tornado entes robóticos com amplo potencial de sociabilidade ao transformarem os modos de produção e recuperação de informações que constituem a esfera pública.
Abre-se assim um novo momento para a experiência de comunicação ao entrarem em cena novos mediadores que assumem o papel de assistentes diretos na criação de textos e imagens que circulam por meio das mídias e redes sociais, exigindo uma melhor compreensão dos impactos sociais e individuais que provocam.
Esses instrumentos de IA certamente não estão isentos dos riscos de reproduzirem vieses, preconceitos ou proposições falsas arraigados nas formações sociais e discursivas que deram origem às bases de dados usadas para seu treinamento. Os vieses em  sistemas algorítmicos podem reforçar desigualdades sociais e estereótipos, além do risco de incrementarem o fenômeno da  desinformação na sociedade.
Identificar esses vieses é crucial para que tenhamos uma esfera pública de maior qualidade e para a promoção da cidadania. Espera-se com isso contribuir para o aprimoramento dos próprios sistemas de IA, identificando suas forças e fragilidades no campo da comunicação.

Starting date: 01/08/2023
Deadline (months): 24

Participants:

Role	Name
Coordinator *	RUTH DE CÁSSIA DOS REIS
Researcher *	DANIELA ZANETTI