“Diretrizes claras promovem transparência e ética, mas a burocratização excessiva pode desacelerar a inovação. Equilibrar regulação e liberdade é essencial para que o Brasil se mantenha competitivo no cenário global.” – Samir Karam, COO da Performa_IT
Com a evolução acelerada da Inteligência Artificial, a regulamentação do uso da IA tornou-se um tema central e urgente no Brasil. A nova tecnologia traz um potencial imenso para inovar e transformar diversos setores, mas também levantam questões críticas sobre ética, transparência e governança. No contexto brasileiro, onde a transformação digital avança em ritmo acelerado, encontrar o equilíbrio entre inovação e regulamentação adequada é fundamental para garantir um desenvolvimento sustentável e responsável da IA.
Em entrevista exclusiva, Samir Karam, COO da Performa_IT, oferece uma análise aprofundada sobre os desafios e soluções emergentes na regulamentação da IA, destacando a importância do equilíbrio entre inovação e ética no setor tecnológico.
A regulamentação da IA no Brasil ainda está em fase de estruturação, o que traz tanto desafios quanto oportunidades. “Por um lado, a regulamentação cria diretrizes mais claras para um uso responsável da tecnologia, garantindo princípios como transparência e ética. Por outro, há o risco de burocratização excessiva, que pode desacelerar a inovação. O equilíbrio entre regulação e liberdade para inovar é essencial para que o Brasil se mantenha competitivo no cenário global”, inicia Samir Karam, COO da Performa_IT – empresa full service provider de soluções tecnológicas, referência em transformação digital e inteligência artificial.
Shadow AI e Deepfakes: Riscos e Soluções
Um dos conceitos mais preocupantes discutidos por Samir Karam é o de “shadow AI”, que se refere ao uso de inteligência artificial dentro de uma organização sem o devido controle ou supervisão. Essa prática pode levar a vários problemas, como vazamento de dados, decisões enviesadas e riscos de segurança.
Por exemplo, imagine uma equipe de marketing utilizando uma ferramenta de IA para analisar o comportamento dos consumidores sem a aprovação da área de TI ou compliance. Além de expor a empresa a riscos legais, o uso não regulamentado dessa tecnologia pode resultar na coleta e análise inadequada de dados sensíveis, violando a privacidade dos usuários.
Outro cenário é o desenvolvimento de algoritmos de IA para decisões de contratação, que sem supervisão adequada podem reproduzir vieses inconscientes presentes nos dados de treinamento, resultando em decisões injustas e discriminatórias.
Assim como no caso das deepfakes, onde vídeos ou áudios criados utilizam inteligência artificial para manipular imagens, sons e movimentos de uma pessoa, fazendo com que pareça dizer ou fazer algo que, na realidade, nunca aconteceu. Essa tecnologia pode ser usada de forma mal-intencionada para espalhar desinformação, fraudar identidades e causar danos à reputação de indivíduos.
As soluções para o shadow AI e deepfakes caminham pela criação de políticas robustas de governança de IA, de acordo com Samir Karam, COO da Performa_IT:
“Essas políticas incluem a implementação de auditorias frequentes, a fim de garantir que as práticas de IA estejam alinhadas com as diretrizes de ética e transparência da organização. Além disso, é essencial o uso de ferramentas que detectem atividades não autorizadas e monitorem continuamente os sistemas de IA para prevenir abusos e garantir a segurança dos dados.”
Samir enfatiza que, sem essas medidas, o uso descontrolado de IA pode não apenas comprometer a confiança dos consumidores, mas também expor as organizações a severas repercussões legais e reputacionais.
Fake News e desafios éticos na IA
A disseminação de fake news geradas por IA é outra preocupação crescente. “O combate às fake news geradas por IA exige uma combinação de tecnologia e educação. Ferramentas de verificação automatizada, identificação de padrões sintéticos em imagens e textos, além da rotulagem de conteúdos gerados por IA, são passos importantes. Mas também precisamos investir na conscientização do público, ensinando a identificar fontes confiáveis e a questionar conteúdos duvidosos”, afirma Samir.
Garantir a transparência e a ética no desenvolvimento de IA é um dos pilares defendidos por Samir. Ele destaca que “algumas das melhores práticas incluem a adoção de modelos explicáveis (XAI – Explainable AI), auditorias independentes, uso de dados diversificados para evitar vieses e a criação de comitês de ética em IA.”
Uma das principais preocupações de segurança cibernética associadas à IA incluem ataques sofisticados, como o phishing – uma técnica de ataque em que os criminosos tentam enganar indivíduos para que revelem informações confidenciais, como senhas e dados bancários, se passando por entidades confiáveis em comunicações digitais. Esses ataques podem ser ainda mais sofisticados quando combinados com IA, criando e-mails e mensagens personalizadas que são difíceis de distinguir das reais. Para mitigar esses riscos, Samir sugere que “é fundamental investir em soluções de detecção baseadas em IA, implementar autenticação multifator e garantir que os modelos de IA sejam treinados para detectar e mitigar tentativas de manipulação.”
Colaboração para Políticas eficazes de IA
A colaboração entre empresas, governos e academia é vital para a formulação de políticas eficazes de IA. Samir ressalta que “a IA impacta diversos setores, então a regulamentação precisa ser construída de forma colaborativa. Empresas trazem a visão prática do uso da tecnologia, governos estabelecem diretrizes de segurança e privacidade, enquanto a academia contribui com pesquisas e metodologias para um desenvolvimento mais seguro e ético.”
A natureza multifacetada da inteligência artificial significa que seus impactos e aplicações variam amplamente entre diferentes setores, desde a saúde até a educação, passando por finanças e segurança pública. Por essa razão, a criação de políticas eficazes requer uma abordagem integrada que considere todas essas variáveis.
Empresas são fundamentais nesse processo, pois são elas que implementam e utilizam a IA em grande escala. Elas fornecem insights sobre as necessidades do mercado, os desafios práticos e as inovações tecnológicas mais recentes. A contribuição do setor privado ajuda a garantir que as políticas de IA sejam aplicáveis e relevantes no contexto real.
Governos, por sua vez, têm a responsabilidade de estabelecer diretrizes que protejam os cidadãos e garantam a ética no uso da IA. Eles criam regulamentações que abordam questões de segurança, privacidade e direitos humanos. Além disso, os governos podem facilitar a colaboração entre diferentes partes interessadas e promover programas de financiamento para a pesquisa em IA.
Academia é a terceira peça essencial nesse quebra-cabeça. As Universidades e Institutos de pesquisas fornecem uma base teórica sólida e desenvolvem novas metodologias para garantir que a IA seja desenvolvida de forma segura e ética. A pesquisa acadêmica também desempenha um papel crucial na identificação e mitigação de vieses nos algoritmos de IA, garantindo que as tecnologias sejam justas e equitativas.
Essa colaboração tripartite permite que as políticas de IA sejam robustas e adaptáveis, abordando tanto os benefícios quanto os riscos associados ao uso da tecnologia. Um exemplo prático dessa colaboração pode ser visto em programas de parceria público-privada, onde empresas de tecnologia trabalham em conjunto com instituições acadêmicas e agências governamentais para desenvolver soluções de IA que respeitem as normas de segurança e privacidade.
Samir destaca que, sem essa abordagem colaborativa, há um risco de criar regulamentações que sejam desconectadas da realidade prática ou que inibam a inovação. “É essencial encontrar um equilíbrio entre regulamentação e liberdade para inovar, de modo que possamos maximizar os benefícios da IA enquanto minimizamos os riscos,” conclui.
Mitos da Inteligência Artificial
No cenário atual, onde a inteligência artificial (IA) está cada vez mais presente em nosso dia a dia, muitos mitos e mal-entendidos surgem sobre o seu funcionamento e impacto.
Para esclarecer, desmistificando esses pontos, e finalizar a entrevista, Samir Karam respondeu a diversas perguntas em um formato de pingue-pongue, abordando os mitos mais comuns e fornecendo insights valiosos sobre a realidade da IA.
- Quais são os mitos mais comuns sobre a inteligência artificial que você encontra e como você os esclarece?
Um dos maiores mitos é que a IA é infalível e completamente imparcial. Na realidade, ela reflete os dados com os quais foi treinada, e se houver vieses nesses dados, a IA pode reproduzi-los. Outro mito comum é que IA significa automação completa, quando, na verdade, muitas aplicações são apenas assistentes para tomada de decisão.
- A IA realmente pode substituir todos os empregos humanos? Qual é a realidade sobre isso?
A IA não vai substituir todos os empregos, mas vai transformar muitos deles. Novas funções surgirão, exigindo que profissionais desenvolvam novas habilidades. O cenário mais provável é uma colaboração entre humanos e IA, onde a tecnologia automatiza tarefas repetitivas e os humanos focam no que exige criatividade e julgamento crítico.
- É verdade que a IA pode se tornar consciente e dominar a humanidade, como vemos em filmes de ficção científica?
Hoje, não existe nenhuma evidência científica de que IA possa se tornar consciente. Os modelos atuais são ferramentas estatísticas avançadas que processam dados para gerar respostas, mas sem qualquer forma de cognição ou intenção própria.
- Todas as inteligências artificiais são perigosas ou podem ser usadas para fins prejudiciais? O que devemos saber sobre isso?
Como qualquer tecnologia, a IA pode ser usada para o bem ou para o mal. O perigo não está na IA em si, mas no uso que se faz dela. Por isso, a regulação e o uso responsável são tão importantes.
- Existe uma percepção de que a IA é infalível. Quais são as limitações reais da inteligência artificial?
A IA pode cometer erros, principalmente quando treinada com dados limitados ou enviesados. Além disso, os modelos de IA podem ser facilmente enganados por ataques adversários, onde pequenas manipulações nos dados podem levar a resultados inesperados.
- A IA é apenas uma moda passageira ou é uma tecnologia que veio para ficar?
IA veio para ficar. Seu impacto é comparável ao da eletricidade e da internet. No entanto, seu desenvolvimento está em constante evolução, e ainda veremos muitas mudanças nos próximos anos.
- Os sistemas de IA são realmente capazes de tomar decisões completamente imparciais? Como os preconceitos podem afetar os algoritmos?
Nenhuma IA é completamente imparcial. Se os dados usados para treiná-la contêm viés, os resultados também serão enviesados. O ideal é que as empresas adotem práticas de mitigação de vieses e realizem auditorias constantes.
- Todas as aplicações de IA envolvem vigilância e coleta de dados pessoais? O que as pessoas deveriam saber sobre privacidade e IA?
Nem toda IA envolve vigilância, mas a coleta de dados é uma realidade em muitas aplicações. O mais importante é que os usuários saibam quais dados estão sendo coletados e tenham controle sobre isso. A transparência e a conformidade com legislações como a LGPD (Lei Geral de Proteção de Dados) e o GDPR (General Data Protection Regulation – Regulamento Geral de Proteção de Dados da União Europeia) são fundamentais.
SOBRE SAMIR KARAM
Samir Karam é professor do curso de Governança de TI na Universidade Estadual de Campinas-SP, onde ministra a disciplina de Transformação Digital. Ele também é professor do curso de Lean Six Sigma Black Belt na Facens. Como co-autor do livro “Jornada Lean Digital”, Samir une conceitos e experiências para acelerar o aprendizado do Lean no mundo digital.
Samir Karam é COO e Co-fundador da Performa_IT, onde lidera projetos de desenvolvimento de soluções de tecnologia e inovação. Com uma abordagem centrada nos pilares de Lean, Design e Agilidade, ele busca constantemente gerar valor em cada projeto. Samir trabalha de perto com clientes e Performers para superar desafios de transformação digital e cocriar as empresas do futuro. Sua trajetória é marcada pela busca incessante de soluções digitais enxutas e pela excelência na entrega de resultados.
Samir também é palestrante e co-host de podcast, e é apaixonado por compartilhar suas experiências em inovação, tecnologia e empreendedorismo. Ele fornece insights valiosos em áreas como metodologias ágeis, lean, design thinking e aplicações práticas de tecnologias de vanguarda, como a Inteligência Artificial.
Linkedin Samir Karam: https://www.linkedin.com/in/skaram/
Podcaster do PQP da Performa_IT: https://www.youtube.com/@performa_it
SOBRE A PERFORMA_IT
Da vontade de propor soluções de tecnologia inovadoras e entregar diferenciais ao mercado, nasceu a Performa_IT, na região de Campinas/SP – um dos maiores centros tecnológicos da América Latina.
Na Performa_IT os projetos são vistos como empreendimentos com bases sólidas no planejamento estratégico, muito além do desenvolvimento de funcionalidades, tendo como objetivo a entrega de uma solução inovadora. O olhar empreendedor garante produtos e serviços para atender uma necessidade, resolver um problema, atingir metas e se diferenciar no mercado, apoiando uma gestão de crescimento e impulsionando a inovação.
Com parceria com grandes marcas em todo o território nacional e internacional, a empresa desenvolve pessoas, proporciona parcerias e cocria soluções relevantes para vários segmentos. Desde 2009, mais de 750 projetos já foram desenvolvidos, sempre com foco no resultado criativo, dinâmico e prático para os clientes.
Para mais informações sobre a Performa_IT, acesse:
Site: www.performait.com
Linkedin: www.linkedin.com/company/performait
Instagram: www.instagram.com/performaitsolutions
Fonte: Get Comunicação
