#135 IA Confiável e Ética.
Subscribe to get the latest
on 2023-04-27 00:00:00 +0000
with Darren W Pulsipher, Gretchen Stewart,
Neste episódio, Darren entrevista Gretchen Stewart, Cientista de Dados Chefe do Setor Público na Intel, onde eles discutem a confiabilidade e ética da inteligência artificial.
Keywords
#ai #digitalethics #trust #zerotrust #cybersecurity
No final dos anos 2010, a Microsoft lançou o Tay como um chatbot de IA projetado para aprender a partir de suas conversas com usuários no Twitter. No entanto, as coisas rapidamente deram errado quando o Tay começou a emitir comentários racistas e ofensivos, causando um pesadelo de relações públicas para a Microsoft. Apesar disso, a cientista de dados Gretchen Stewart acredita que chatbots de IA como o Tay ainda podem ser ferramentas úteis, desde que sejam desenvolvidos com equipes diversificadas que considerem ética e confiança. Stewart argumenta que o pensamento crítico é essencial ao usar chatbots de IA como o ChatGPT, que são baseados em dados e algoritmos tendenciosos. Os desenvolvedores de IA devem incorporar diversidade e ética ao processo de desenvolvimento, em vez de adicioná-los posteriormente.
Confiança
A IA possui capacidades imensas, mas ainda carece dos sentidos e experiências humanas que podem afetar a tomada de decisões. Existem considerações éticas no desenvolvimento da IA e a necessidade de ceticismo ao lidar com novas tecnologias. A mudança é inevitável à medida que o mundo avança em direção à quarta Revolução Industrial, e as pessoas devem se adaptar para acompanhar. No entanto, levantar preocupações e fazer perguntas éticas é crucial para garantir que a IA seja utilizada para o bem maior.
Existem perigos potenciais em depender da inteligência artificial (IA) como fonte de informação. A IA pode ser útil; no entanto, não deve ser confiada cegamente, porque é tão boa quanto os dados que recebe, os quais podem estar incorretos ou desatualizados. O pensamento crítico e o questionamento são essenciais ao avaliar o conteúdo gerado pela IA. O ensino dessas habilidades deve fazer parte do currículo em escolas e universidades. Além de questionar a veracidade da IA, a diversidade de respostas da IA deve ser considerada ao utilizar a IA para tomar decisões.
Ética
À medida que a tecnologia continua a avançar, novas questões éticas continuam a surgir. Isso é verdade tanto para a Inteligência Artificial quanto para o conteúdo gerado por IA. Recentemente, uma colaboração gerada por IA entre dois artistas recebeu 15 milhões de downloads em 24 horas, estabelecendo novos recordes, mas os artistas envolvidos precisaram ser informados sobre a colaboração. Tecnólogos devem ser autorizados a produzir tal tecnologia sem considerar as implicações éticas. Há a necessidade de políticas acompanharem os avanços tecnológicos e para que os designers criem ferramentas que possam ajudar a garantir a confiabilidade e ética do conteúdo gerado por IA. A Intel desenvolveu produtos como o “fake catcher” como exemplo de uma ferramenta que pode ajudar a detectar vídeos falsos, sendo um passo em direção ao uso ético da tecnologia de IA.
Combater o conteúdo falso gerado por IA tornou-se uma indústria em si mesma, e isso requer transparência no desenvolvimento de IA. Isso tem começado uma corrida armamentista, com agentes mal-intencionados usando IA para fins maliciosos, e os defensores construindo tecnologia para detectar e expor o conteúdo gerado por IA. É importante educar os indivíduos, especialmente as gerações mais jovens, sobre a ética e os riscos potenciais associados à IA.