Adaptado de: Inteligência Artificial: incluindo a perspectiva de crianças e adolescentes no debate (Panorama Setorial da Internet nº 3 , 2020)
Acessar, usar e interagir com tecnologias baseadas em inteligência artificial faz parte do cotidiano de crianças e adolescentes. Dados da pesquisa TIC Kids Online Brasil 2019, do Cetic.br|NIC.br, apontam que 89% das crianças e adolescentes de nove a 17 anos eram usuários de Internet (95% declararam acesso pelo celular). Além disso, 68% afirmaram ter utilizado redes sociais e 79%, enviado mensagens instantâneas.
Tal como notado pelo UNICEF, plataformas como o YouTube lançam mão de algoritmos para recomendar conteúdos e, em especial no caso do YouTube Kids, mediar vídeos apropriados a esse público. Além da preocupação com a opacidade e a falta de transparência em relação aos algoritmos, coloca-se o desafio da possível exposição a conteúdo mercadológico.
Segundo resultados da edição de 2018 da pesquisa TIC Kids Online Brasil, mais da metade das crianças e adolescentes usuários de Internet teve contato com propaganda em redes sociais e sites de vídeos.
Algoritmos baseados em IA estão incorporados às plataformas e a outras aplicações on-line utilizadas por crianças. No entanto, a percepção sobre a presença desses sistemas não é intuitiva e pode ser dificultada à medida que as interações com tais tecnologias se tornam mais integradas.
Diante disso, para captar o entendimento de crianças sobre o tema é necessário, primeiro, identificar como essa população compreende os sistemas baseados em IA e interage com eles. Ao serem estimulados a comentar sobre o que pensam ao ouvir o termo “Inteligência Artificial”, participantes dos workshops brasileiros mesclaram exemplos que vão desde tecnologias presentes no cotidiano, tal como assistentes virtuais (Siri, Alexa, Google Assistente), assistentes de lojas e de bancos (BIA, do Bradesco, Aura, da Vivo, Lu, do Magazine Luiza), até casos de ficção científica (Exterminador do futuro, Matrix, Homem de Ferro).
Ou seja, ao mesmo tempo que percebem a presença de IA em tecnologias utilizadas no dia a dia, fazem referência a ficções e futuros distantes que beiram cenários distópicos.
Entre 2019 e 2020, o UNICEF realizou , com o apoio do governo da Finlândia, consultas globais com especialistas em IA, infância e direitos digitais para a elaboração do Guia de Política para Inteligência Artificial e Infância. Ciente da importância de dar voz às populações jovens nos processos que as envolvem, o projeto incluiu workshops com esse público.
Dois dos workshops ocorreram em Manaus (AM) e São Paulo (SP) reuniu 42 adolescentes participantes, com idades entre 12 e 19 anos. A seguir, um resumo sobre as percepções dos jovens nas entrevistas em profundidade:
Benefícios associados ao uso de IA
- o acesso rápido e prático à informação; a agilidade para realizar atividades específicas;
- a sugestão de filmes e músicas adequada aos gostos pessoais;
- a melhora no diagnóstico e no tratamento de doenças;
- o desenvolvimento de carros que dirigem sozinhos;
- a possibilidade de aprender novos idiomas;
- o potencial de desenvolvimento de sistemas personalizados para acompanhar idosos, melhorar a acessibilidade e ajudar aqueles com dificuldade de compreensão.
Dúvidas e preocupações
- o uso de seus dados;
- a falta de clareza sobre etapas de desenvolvimento de sistemas;
- os possíveis impactos sociais;
- o futuro do trabalho;
- as incertezas em relação ao controle e à responsabilização dos atores envolvidos em toda a cadeia de desenvolvimento das tecnologias.
As respostas nas entrevistas demonstram que aspectos centrais às discussões sobre IA – como privacidade e proteção de dados pessoais – fazem parte de suas preocupações, o que reforça a necessidade de que os princípios de IA sejam adequados às demandas das populações jovens. Entre as questões estão: “Quem exatamente cria [os sistemas de IA]?”, “Como ela [IA] funciona e faz as coisas que deve?”, “Como os meus dados são utilizados, onde ficam armazenados e quem tem acesso a eles?” e “Quem se responsabiliza por esses dados?”.
As preocupações levantadas pelas crianças e adolescentes podem ser compreendidas como formas de reivindicação por sistemas que considerem a proteção de dados pessoais, assegurem que os dados não sofram ataques externos, sejam confiáveis e operem da maneira proposta.
No entanto, a complexidade envolvida no desenvolvimento de sistemas baseados em IA cria desafios significativos para a governança dessas iniciativas, uma vez que, além das implicações técnicas, sua implementação e utilidade nem sempre são claras.
Entre os requisitos listados pelo UNICEF para desenvolver sistemas de IA centrados em crianças e adolescentes estão: garantir a inclusão dessa população, priorizar a equidade e a não discriminação. Para cumpri-los, é necessário considerar o processo de desenvolvimento de tais sistemas desde o início, o que significa olhar tanto para os dados e os algoritmos (uma vez que influenciam os resultados) quanto para uma abordagem de design inclusiva. Sobre os dados, o UNICEF preconiza que representem características importantes para os grupos que farão uso ou serão afetados pelos sistemas, tais como gênero e cultura, de forma a minimizar possíveis discriminações. Já a abordagem inclusiva pode garantir que, independentemente de aspectos como idade, diversidade geográfica e cultural, todas as crianças possam usar as tecnologias baseadas em IA, mesmo aquelas que potencialmente seriam excluídas por vieses dos algoritmos das plataformas.
Outro aspecto importante é a adaptação dos sistemas ao contexto nacional e local. Para isso, as políticas e diretrizes voltadas à IA devem priorizar as crianças e adolescentes mais vulneráveis, considerar o desenvolvimento de bases de dados que incluam dados de crianças diversas, bem como eliminar vieses que resultem em discriminação e exclusão.
Cientes das raízes históricas dos problemas sociais abordados, adolescentes identificam que a sub-representação de grupos populacionais no desenvolvimento de IA se associa ao papel de quem desenvolve tais tecnologias: “A gente percebe o quanto está difícil de o machismo ter fim e como ele é reproduzido por IA. A empresa vai contratar mais homens porque ela [base de dados que alimenta o algoritmo de IA] tem mais currículos de homens, e quem programou considerou isso. O machismo passa do homem para a máquina” (menina, 14 anos, Manaus).
Além da reprodução de preconceitos por sistemas alimentados por dados não representativos, os tomadores de decisão na criação e no desenvolvimento de sistemas baseados em IA podem subestimar as necessidades de populações vulneráveis ou marginalizadas, o que aparece em exemplos citados por jovens indígenas. “Existem indígenas que não falam português direito. A tecnologia precisa ser aprimorada porque considera a diversidade só em português. Só aqui no Amazonas são mais de 350 etnias com línguas variadas. A tecnologia não se interessa por essas etnias” (menino, 14 anos, Manaus).
Se a multiplicidade de atores e interesses for desconsiderada no desenvolvimento de tecnologias de IA, o alcance de soluções inclusivas e efetivas estará comprometido. Nesse sentido, a escuta a jovens de realidades diversas pode inspirar saídas valiosas e inovadoras.
Os jovens participantes dos workshops identificam que a criação, o desenvolvimento e a aplicação de sistemas de IA pressupõem o controle humano, assim como reconhecem os possíveis impactos decorrentes de interesses específicos. No entanto, observa-se a falta de clareza sobre quem são os atores responsáveis por garantir que as oportunidades trazidas por esses sistemas sejam de fato aproveitadas e que os riscos sejam mitigados. O desenvolvimento de sistemas é bastante associado a cientistas e desenvolvedores que trabalham com IA, mas há pouca menção às empresas (enquanto instituições) responsáveis por disponibilizar tais sistemas. Isso pode representar uma incompreensão dos participantes a respeito do ecossistema de IA como um todo, levando à falta de entendimento sobre quem responde pelas tecnologias e quais seus interesses. Além disso, embora possíveis falhas e vieses sejam recorrentes nas falas dos jovens, são raras as referências ao desenvolvimento de instrumentos normativos em relação ao papel do Estado. Ainda que haja criticidade por parte das populações jovens e potência para o seu engajamento no debate em torno de IA, as lacunas em instâncias de participação causam dúvidas sobre como se inserir nesses espaços e a quem cobrar por seus direitos.
Sem que as perspectivas e as necessidades específicas de crianças e adolescentes sejam de fato consideradas, o desenvolvimento de tecnologias seguras, justas, equitativas e voltadas às demandas desse público não será efetivo. É determinante que essa população seja consultada e inserida nas arenas de participação, tendo contato com a multiplicidade de atores e interesses envolvidos na cadeia de produção das tecnologias.
Em abril de 2021, a ONU lançou o Comentário Geral sobre Direitos das Crianças em Relação ao Ambiente Digital. Disponível em Português, Espanhol e Ingles, o documento pontua como a Convenção sobre os Direitos da Criança, tratado de direitos humanos mais ratificado em todo o mundo (com mais de 190 Estados signatários), se aplica igualmente ao mundo digital.
