Reunião aberta na ENSP debate Inteligência Artificial Generativa; saiba mais sobre o tema
Publicado em:23/05/2023
O Núcleo de Ciência Aberta da Escola Nacional de Saúde Pública (ENSP/Fiocruz) realizará no dia 24 de maio, às 9h, uma reunião aberta sobre o tema 'Inteligência Artificial Generativa - riscos e possibilidades'. O convidado é o professor do Cefet-RJ Eduardo Bezerra. O evento será realizado remotamente pela plataforma Zoom. Os interessados em participar devem enviar e-mail para pesquisa@ensp.fiocruz.br para solicitar o link de acesso à sala.
O que é inteligência artificial generativa?
“Usamos "generativa" para abreviar, pois o nome completo é "generative pre-trained transformer", o famoso GPT de aplicativos como o ChatGPT da OpenAI e semelhantes. Não há tradução consensual para o português, mas seria algo como "transformador generativo pré-treinado". É um modelo de linguagem baseado em redes neurais extremamente avançado, capaz de interagir com o usuário como se fosse uma espécie de assistente virtual mas, sobretudo, com capacidade de produzir textos - e agora imagens - impressionantemente bem estruturados, a partir de demandas do usuário, varrendo uma gigantesca base de dados em poucos segundos. Claro que os modelos atuais têm muitas falhas, mas o progresso dessa tecnologia, em um tempo relativamente muito curto, é impressionante e nos leva a perguntar onde isso pode chegar”, detalhou Leonardo Castro, coordenador do Núcleo de Ciência Aberta da ENSP.
Castro também explicou que o ChatGPT é alimentado por informações da web - da Wikipedia e de outras fontes - e oferece boas respostas para questões genéricas, do tipo que podem ser respondidas por consultas a uma boa enciclopédia. Só que há muitos erros, principalmente porque o mecanismo frequentemente "completa" o texto com informações erradas, que parecem inventadas, quando a informação da base de dados é insuficiente. “O novo Bing, mecanismo de busca da Microsoft que usa os algoritmos da OpenAI, consegue buscar informações varrendo a web, e não de uma base limitada e previamente disponível, o que aumenta o risco de geração de respostas problemáticas. Mas é fácil imaginar aplicações muito poderosas para finalidades mais restritas, por exemplo na área jurídica. O diferencial é que a máquina tem capacidade de consultar e cruzar um número imenso de variáveis em poucos segundos”, disse Leonardo Castro.
Debate atual e necessário
Recentemente, alguns grandes nomes do mercado de tecnologia publicaram uma carta aberta pedindo uma moratória de seis meses no desenvolvimento de tecnologia GPT, sugerindo que a corrida entre empresas pelo desenvolvimento e lançamento no mercado de aplicativos de IA generativa pode ter consequências incontroláveis. “É uma postura ingênua e, no caso de alguns signatários, mal intencionada. Não existe moratória possível na competição pela fronteira tecnológica, não há garantia possível de que o meu concorrente venha realmente a suspender seus projetos secretos se eu disser que vou suspender os meus. O apelo, portanto, é tão dramático quanto patético. Mas há, sim, muitos motivos para preocupação”, alertou o coordenador do NCA/ENSP.
Ainda de acordo com a análise de Leonardo Castro, a primeira preocupação é o impacto sobre o mercado de trabalho por se tratar de uma tecnologia poupadora de mão de obra, com enorme potencial para substituir o trabalho humano n uma série de setores da economia, incluindo empregos de "colarinho branco". Além disso, a possibilidade de que a transferência massiva de conhecimento humano acumulado para as máquinas torne as pessoas cada vez mais dependente delas também preocupa.
“Somos cada vez mais dependentes de infraestruturas hipercomplexas e baseadas em tecnologia, que tem fragilidades óbvias e comportam riscos. A IA generativa é mais uma delas e não temos ainda a dimensão do seu verdadeiro impacto. Em áreas como saúde e educação esse impacto pode ser imenso, abrindo muitas possibilidades de utilização benéfica e progressos no ensino, pesquisa e na assistência à saúde, mas os riscos que essa tecnologia introduz são consideráveis, por exemplo na geração de informação distorcida, proposital ou não. Seu possível uso em propaganda política também pode ser muito problemático”.
Nenhum comentário para: Reunião aberta na ENSP debate Inteligência Artificial Generativa; saiba mais sobre o tema
Comente essa matéria:
