A revolução da IA: Um chamado para a ação de designers
Nossa responsabilidade vai além de dominar ferramentas. Precisamos abraçar nossas responsabilidades diante das mudanças advindas com a IA.
Qual a sua visão sobre inteligência artificial?
Eu, às vezes, penso que estamos vivendo em um novo capítulo da história da humanidade. A Inteligência Artificial (IA) não é mais um conceito futurista; é uma realidade presente. Fico me perguntando se na minha profissão dá para ser uma mera espectadora ou entusiasta dessa revolução.
Confesso que minha jornada começou como uma simples entusiasta de ferramentas de IA. Eu ficava maravilhada com cada novo recurso, cada prompt inteligente que aprendia. Mas à medida que mergulhei um pouco mais nesse universo, percebi que nossa responsabilidade vai muito além de dominar essas ferramentas. Estamos diante de um ponto de inflexão ético e social que exige nossa atenção crítica e ação consciente.
Comecei a pensar um pouco mais no assunto quando estava trabalhando em um produto de reconhecimento facial e me deparei com casos como o do Brasil, onde sistemas de reconhecimento facial na Bahia levaram a prisões injustas. Depois disso fiquei atenta a outras manchetes como o apagão cibernético global de 2024, causado por uma falha no software CrowdStrike expondo nossa vulnerabilidade coletiva em relação à tecnologia; o caso da Espanha onde um algoritmo falho resultou na morte de uma vítima de violência doméstica e também nas operações de IA e data center consumindo bilhões de litros de água anualmente.
Permita-me compartilhar algumas reflexões que têm rondado minha mente, na esperança de que possam provocar um diálogo significativo em nossa comunidade de design.
1. Como estamos nos preparando para as mudanças inevitáveis?
Imagine-se explicando para seu eu de cinco anos atrás como o ChatGPT mudou sua rotina de trabalho. Agora, se projete cinco anos no futuro. Como será nosso campo de atuação? Que habilidades serão essenciais?
Mas além de nossa evolução profissional, temos uma responsabilidade maior. No Brasil, onde a exclusão digital ainda é uma realidade, como podemos garantir que nossas criações não ampliem o abismo social? Que parcerias precisamos formar? Que políticas devemos defender? Que planejamento devemos ter a longo prazo para promover equidade?
2. Estamos integrando a IA de forma ética e responsável?
Cada interface que projetamos, cada fluxo de usuário que otimizamos, cada tecnologia que incluímos carrega um peso ético. Como podemos garantir que nossas criações promovam equidade ao invés de perpetuar vieses? Quais os problemas criados com as inteligências artificiais e como podemos participar das soluções? (Aqui me lembro dos recursos naturais, de prisões indevidas com o uso de reconhecimento facial, de coleta de dados, etc).
3. Estamos prontos para as consequências não intencionais?
A história está repleta de inovações bem-intencionadas que tiveram efeitos colaterais. Como as redes sociais criadas para conectar pessoas, mas estudos mostram sua ligação com problemas de saúde mental, os automóveis que revolucionaram o transporte, mas se tornaram uma das principais fontes de emissões de gases, dentre inúmeras outras histórias. Como ser consciente sobre os riscos e efeitos colaterais da IA? Como podemos antecipar e mitigar os riscos potenciais de nossas criações e produtos?
4. Como estamos abordando os desafios de privacidade e segurança?
Cada interação com IA gera dados, cada dado é uma responsabilidade. Como designers, é nosso dever proteger a privacidade de nossos usuários e garantir a segurança de suas informações? Se sim, como fazê-lo?
5. Como equilibrar tudo isso: ética, responsabilidade, inovação e resultados comerciais?
Em meio a todas essas reflexões éticas e sociais, como podemos implementar essas considerações sem frear a inovação ou comprometer o sucesso financeiro das empresas onde trabalhamos? Afinal, o lucro não é um mal em si; ele é o que permite que as empresas continuem inovando e gerando impacto positivo.
Desafios práticos
Gosto de pensar que as perguntas são parte importante das mudanças, mas ficar no campo das ideias não nos leva a lugar algum. Não tenho as respostas das perguntas acima, mas gostaria de propor algumas coisas simples para sairmos das ideias e irmos para ação:
- Converse sobre o assunto com outros designs;
- Escolha um projeto atual e imagine seus possíveis impactos em 5, 10 e 20 anos. Lembre-se de incluir a IA nisso;
- Comprometa-se a dedicar alguns minutos ou horas por semana para estudar tópicos relacionados à IA, lembre-se dos tópicos de questionamento falados no artigo. E compartilhe insights e aprendizados com sua equipe;
- Defina princípios claros e acionáveis que guiarão suas decisões de design relacionadas à IA.
A revolução da IA não é um evento distante no horizonte — ela está acontecendo agora, moldando o presente e definindo o futuro diante de nossos olhos. Nós, designers, não somos meros observadores desse fenômeno transformador. Nossa missão vai muito além de dominar as últimas ferramentas de IA ou criar prompts inteligentes. Estamos diante da oportunidade — e da responsabilidade — de reimaginar o próprio tecido de nossa sociedade digital.
Mas esta não é uma jornada que podemos empreender sozinhos. A complexidade dos desafios que enfrentamos exige uma abordagem colaborativa e multidisciplinar.
Suas reflexões, desafios, ideias e questionamentos são importantes. Eles não apenas enriquecem nossa compreensão coletiva, mas também nos ajudam a moldar um futuro digital mais ético, inclusivo e centrado no ser humano.
Lembre-se: cada comentário que você compartilha, cada discussão que você inicia, cada prática ética que você defende em seu local de trabalho é uma pequena, mas significativa contribuição para esta revolução.
Se você acha que faz sentido o que escrevi, compartilhe suas perspectivas nos comentários, estou ansiosa para ouvir (ler) suas reflexões, desafios e ideias.
Referências
- Caos global vem aí; Meta dá de graça o que rivais vendem; confiamos demais na tecnologia?
- Utopia ou Distopia: O futuro da IA pra uma sociedade
- Inteligência artificial e nuvem do Google consomem 21 bilhões de litros de água por ano
- Sistema de reconhecimento facial é criticado por ‘racismo algorítmico’ na Bahia, inocente ficou preso por 26 dias
- Sherry Turkle: Conectado, mas só?
