Em 2025, entram em vigor novas e rigorosas regras da União Europeia que visam regular o uso de Inteligência Artificial (IA). O novo Regulamento da IA foi concebido para garantir que as tecnologias emergentes sejam utilizadas de forma ética e segura, protegendo os cidadãos e as empresas de riscos e abusos. A seguir, destacamos os principais pontos que as empresas, especialmente as startups, precisam de entender para se alinhar às novas exigências legais.
Transparência e Responsabilidade
Uma das principais mudanças nas novas regras é a exigência de transparência em relação ao uso de IA. As empresas deverão declarar de forma clara e acessível quando e como utilizam sistemas de IA em produtos e serviços voltados ao consumidor. Isto implica uma comunicação mais direta com o público sobre o funcionamento da IA, seus objetivos e possíveis implicações para os direitos dos consumidores.
A responsabilidade será um ponto-chave. As empresas terão que garantir que qualquer sistema de IA implementado seja monitorizado de forma contínua, e que estejam preparadas para tomar medidas corretivas em caso de falhas. Esta transparência não se limita apenas à comunicação, mas também se reflete em práticas internas que assegurem que a IA seja usada de forma justa e sem discriminação.
Proibição de Práticas de Alto Risco
Outro ponto crucial do novo regulamento é a proibição de aplicações de IA que possam comprometer direitos fundamentais dos cidadãos. Serão restringidos aplicativos de IA que apresentem altos riscos para a segurança, saúde, privacidade ou igualdade dos consumidores. Entre os exemplos estão os sistemas de reconhecimento facial em tempo real em locais públicos, a classificação automatizada de indivíduos com base em comportamentos pessoais, ou a utilização de IA para manipular decisões em processos judiciais ou administrativos.
As empresas terão que identificar e categorizar os riscos associados aos seus sistemas de IA e implementar medidas de mitigação adequadas. A transparência neste caso também se aplica à avaliação contínua desses riscos, e as empresas devem ser capazes de demonstrar como garantem a segurança e a ética na utilização desses sistemas.
Impacto nas Startups
As startups, muitas vezes na vanguarda da inovação tecnológica, precisam estar particularmente atentas às novas regras, já que a conformidade com a legislação de IA será essencial para o sucesso a longo prazo. Embora as startups tenham uma maior flexibilidade para implementar novas tecnologias, também devem garantir que seus sistemas de IA estejam em conformidade com as normas de segurança e de proteção dos direitos dos consumidores.
O regulamento da IA exige que as startups identifiquem corretamente os riscos associados aos seus produtos, especialmente aqueles que envolvem IA, e implementem as devidas salvaguardas. Para muitas startups, isso pode significar a necessidade de realizar auditorias internas regulares sobre a utilização de IA, garantir que as suas soluções sejam explicáveis e justas, e atualizar as suas políticas de privacidade para refletir o uso de IA.
Além disso, as startups devem garantir que estejam cientes das penalidades previstas para quem não cumprir as novas regras. O não cumprimento das normas pode resultar em multas pesadas ou mesmo em restrições operacionais em mercados da União Europeia. Isso torna a conformidade não apenas uma responsabilidade legal, mas também uma vantagem competitiva, pois pode aumentar a confiança dos consumidores e investidores.
Fonte: European Commission, “AI Act Overview 2025”