Programa 34 – Pedro Saleiro – Equidade em modelos de Machine Learning e AI

(download)
Neste episódio estivemos à conversa com Pedro Saleiro, Data Science Manager na Feedzai. Ficamos a conhecer o seu trabalho maioritariamente focado em questões sociais, éticas e de equidade no âmbito da Inteligência Artificial (AI – Artificial Intelligence).
Tópicos abordados Data Science Manager na Feedzai [00:00:17]
Percurso e oportunidade de ir para Chicago [00:02:55]
Auditoria a modelos de machine learning para a discriminação, com o Aequitas [00:05:57]
Resultados obtidos com o Aequitas [00:08:30]
Como é que o Aequitas se adapta a diferentes contextos [00:10:23]
Etiquetagem em machine learning e dados enviesados [00:14:38]
Dinimização da propagação de discriminação nos modelos [00:18:54]
Algoritmos para treinar modelos de machine learning [00:22:37]
Ferramentas para etiquetagem – queries SQL / Pandas (Python) / Spark (Big data) [00:29:31]
Previsão de reincidência criminal, com o Kansas [00:33:31]
Equidade (fairness) nos modelos usado para o Kansas [00:39:53]
Importância do conhecimento científico, filosófico e o bom senso, para além do conhecimento técnico [00:46:30]
Responsabilidade partilhada e multidisciplinaridade no desenvolvimento de software – mencionamos o livro Ruined by Design (escrito por Mike Monteiro) [00:49:48]
A economia é demasiado importante para ser deixada a economistas. O AI é demasiado importante para ser deixado a software engineers? – mencionamos o livro Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy [00:53:39]
Cambridge Analytica [00:58:38]
Perguntas Rápidas Expetativas para os próximos 12 meses a nível de web?
Mais transparência nas tomadas de decisão (Explainable AI não é suficiente)
Qual a app mobile que não dispensarias?
Google Maps
Qual a ferramenta de desenvolvimento/produtividade mais indispensável para o teu dia-a-dia?
GitLab – ferramenta de Source Code Management (SCM) e Continuous Integration/Continuous Delivery (CI/CD)
Um podcast ou livro fundamental?
Practical Ethics de Peter Singer
Conferência a não perder
Fairness, Accountability, and Transparency (FAT) Conference
Sugestão de próximo convidado
Rui Mendes, Presidente da Data Science Portugal
O post Programa 34 – Pedro Saleiro – Equidade em modelos de Machine Learning e AI aparece primeiro no 10web.