A Ética e a Inteligência Artificial

O UBQ abre sua coletânea de redações temáticas para a série “Redações no UBQ”. Semanalmente, publicaremos um tema para criação de um texto aos moldes de uma redação para o Exame Nacional do Ensino Médio (ENEM) para oferecer uma visão sobre temas importantes do cotidiano. Que fique claro que os textos são apenas um exercício de criatividade e não devem ser usados como um modelo válido para você que pretende realizar o ENEM.

Mas podem servir como base para que você tenha uma visão mais abrangente sobre o tema.

TEMA: O compromisso ético no desenvolvimento da Inteligência virtual

Textos de Apoio

Estes textos foram usados como base para construção do texto. Os textos de apoio foram coletados na internet de acordo com a proposta do tema apresentado e ao final, consta o link para a publicação original.

Lei Geral de Proteção de Dados Pessoais (LGPD)

Art. 1º Esta Lei dispõe sobre o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado, com o objetivo de proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural.

LEI Nº 13.709, DE 14 DE AGOSTO DE 2018. Link para a Lei na sua íntegra.

O que você precisa saber sobre ética na inteligência artificial

Uma das preocupações éticas mais significativas relacionadas à inteligência artificial (IA) é o viés atribuído aos algoritmos. Os sistemas de IA são tão imparciais quanto os dados nos quais são treinados e, se esses dados forem tendenciosos, podem perpetuar e até ampliar a discriminação. Algumas das principais considerações éticas relacionadas à IA incluem:

• Viés nos algoritmos: os sistemas de IA são tão imparciais quanto os dados nos quais são treinados e, se esses dados forem tendenciosos, podem perpetuar e até mesmo ampliar a discriminação.
• Transparência e responsabilidade: é importante que os sistemas de IA sejam transparentes e explicáveis, para que as pessoas possam entender como estão tomando decisões e como contestá-las, se necessário.
• Privacidade: à medida que os sistemas de IA se tornam mais poderosos, eles podem coletar e analisar grandes quantidades de dados pessoais.
• Geração de novos empregos: como a IA e a automação podem substituir os colaboradores humanos em determinados setores, é importante considerar como esses funcionários serão afetados e que tipo de novas oportunidades de trabalho serão criadas.
• Segurança: à medida que os sistemas de IA se tornam mais poderosos, pode haver preocupações de segurança relacionadas ao seu uso.

Além disso, é importante que os indivíduos sejam informados e envolvidos em discussões sobre as implicações éticas e advoguem pelo desenvolvimento e usos responsáveis e éticos da IA.

Fonte: Portal “O Tempo”, artigo de opinião assinado por Enio Moraes, publicado em 20/02/2023. Link para o artigo.

A corrida das Big Techs pela Inteligência Artificial

O Google investiu cerca de US$ 300 milhões (R$ 1,5 bilhão) na startup de inteligência artificial (IA) Anthropic. O negócio dá ao Google a participação em 10% da empresa. A companhia confirmou o investimento, mas não deu mais detalhes. O acordo envolve o uso pela startup das infraestruturas da divisão de negócios do Google dedicada à computação em nuvem.

Há três anos, a empresa do bilionário Bill Gates aportou cerca de US$ 1 bilhão (R$ 5,1 bilhões) na OpenAI. Com isso, construiu uma série de sistemas, culminando no lançamento no fim do ano passado do ChatGPT, um chatbot que cria textos a partir da inteligência artificial.

Fonte: Portal “Revista Oeste”, artigo da editoria do portal, publicado em 06/02/2023. Link para o artigo.

A Redação

Está na moda falar sobre Inteligência Virtual, ou Inteligência Artificial (IA), como é mais comum se referir à esta tecnologia, que aliás, não é tão nova assim. Os primeiros estudos datam da década de 50 e o que parecia uma distante ficção científica tomou de assalto nosso cotidiano. E questionar as preocupações éticas em volta do tema é algo bastante necessário para o futuro desenvolvimento desta tecnologia.

Mas o que tanto preocupa o público em geral e a comunidade científica? Talvez seja o fato de recentemente surgirem serviços que interajam de maneira natural, utilizando linguagem humana. É o caso do ChatGPT, mas é bom lembrar que não é a única iniciativa existente. Diversos serviços que usam Inteligência Artificial foram apresentados para as mais diversas finalidades: criar imagens, sons, textos, tudo usando um conhecimento pré-existente alimentado por grandes bases de dados. Uma rápida busca pela internet apresenta nomes como Bard, DALL-E e PicWish fazem uso ostensivo da inteligência artificial.

Uma preocupação bastante válida é o risco destas inteligências substituírem o trabalho humano em algumas atividades e o que o mercado de trabalho reserva para estas pessoas que serão substituídas? Outra questão refere-se aos dados utilizados e mecanismos que coletam estes dados. Qual sua origem? Quem os informou? Como eles são utilizados? E será que estas informações foram tomadas a partir de dados pessoais sensíveis? Utilizar as informações geradas podem ser seguras?

São muitas perguntas e poucas respostas. Assim, é necessário cautela no desenvolvimento da tecnologia. Um bom começo está no estabelecimento de regras claras por governos e empresas. Uma relação transparente sobre a origem dos dados e principalmente observação e cuidado com aqueles que serão afetados pela IA.

Post Scriptum – Avaliação da Redação

Submeti minha sugestão de redação a um corretor humano e um corretor baseado no ChatGPT. Eis as avaliações de cada um deles:

Segundo o ChatGPT

A minha estimativa de avaliação da sua redação é a seguinte: 600/1000

• Competência I – Demonstrar domínio da modalidade escrita formal da língua portuguesa: Nível 3 (150 pontos). Você demonstrou um bom domínio da norma culta da língua escrita, com poucos desvios gramaticais ou de convenções da escrita. Alguns exemplos de desvios são: “à esta tecnologia” (sem crase), “em volta do tema” (ao redor do tema), “interajam” (interajam), “fazem uso ostensivo” (faz uso ostensivo), “Utilizar as informações geradas podem ser seguras?” (As informações geradas podem ser seguras?).
• Competência II – Compreender a proposta de redação e aplicar conceitos das várias áreas de conhecimento para desenvolver o tema, dentro dos limites estruturais do texto dissertativo-argumentativo em prosa: Nível 3 (150 pontos). Você compreendeu a proposta de redação e aplicou conceitos das áreas de tecnologia, ética e sociedade para desenvolver o tema sobre o compromisso ético no desenvolvimento da inteligência artificial. Você apresentou uma tese clara no primeiro parágrafo e a defendeu ao longo do texto, dentro dos limites estruturais do texto dissertativo-argumentativo em prosa.
• Competência III – Selecionar, relacionar, organizar e interpretar informações, fatos, opiniões e argumentos em defesa de um ponto de vista: Nível 2 (100 pontos). Você selecionou, relacionou, organizou e interpretou informações, fatos, opiniões e argumentos em defesa do seu ponto de vista, mas de forma superficial e pouco consistente. Você citou alguns exemplos de serviços que usam inteligência artificial, mas não explicou como eles se relacionam com o tema ou com a sua tese. Você também fez algumas perguntas sobre os riscos da inteligência artificial, mas não ofereceu nenhuma resposta ou solução. Você poderia ter desenvolvido mais os seus argumentos, usando dados, fatos ou fontes confiáveis para sustentar o seu ponto de vista.
• Competência IV – Demonstrar conhecimento dos mecanismos linguísticos necessários para a construção da argumentação: Nível 3 (150 pontos). Você demonstrou conhecimento dos mecanismos linguísticos necessários para a construção da argumentação, usando conectivos, operadores argumentativos e marcadores de progressão textual. Alguns exemplos são: “aliás”, “talvez”, “é o caso de”, “é bom lembrar que”, “uma preocupação bastante válida é”, “outra questão refere-se a”, “assim”, “um bom começo está em”. Você também usou recursos de coesão referencial, como pronomes e sinônimos, para evitar repetições desnecessárias. Você poderia ter usado mais recursos de modalização, como advérbios, adjetivos ou verbos no modo subjuntivo, para expressar o seu grau de certeza, dúvida ou opinião sobre o tema.
• Competência V – Elaborar proposta de intervenção para o problema abordado, respeitando os direitos humanos: Nível 1 (50 pontos). Você não elaborou uma proposta de intervenção para o problema abordado, respeitando os direitos humanos. Você apenas sugeriu que é preciso cautela no desenvolvimento da tecnologia e que é necessário estabelecer regras claras por governos e empresas. Essa sugestão é muito genérica e não atende aos requisitos de uma proposta de intervenção, que deve apresentar uma ação, um agente, uma forma de implementação e uma finalidade. Você poderia ter especificado que tipo de regras seriam necessárias, quem seria responsável por criá-las e fiscalizá-las, como elas seriam aplicadas e qual seria o benefício esperado para a sociedade.

A nota final da sua redação seria a soma das avaliações das cinco competências, ou seja 600 pontos. Essa nota é considerada regular, mas pode ser melhorada se você seguir as sugestões que eu dei para cada competência. Eu espero que a minha estimativa de avaliação tenha sido útil para você e que você consiga melhorar a sua redação. Se você quiser mais ajuda, pode me enviar a sua redação revisada e eu farei novos comentários. 😊

Segundo o corretor humano

A avaliação do corretor foi a seguinte: 640/1000

• Competência I – Uso indevido de crase em “comum se referir à esta tecnologia” e ausência de vírgulas em “que aliás, não é tão nova assim”; “nomes como Bard”; “Picwish fazem uso ostensivo”. Nota: 160
• Competência II – É necessário apresentar um maior repertório sociocultural, isto é, relacionar o assunto com outras áreas de conhecimento (física, história, geografia, matemática etc.) ou apresentar dados/estatísticas e notícias com fontes. Essa estratégia confere consistência para a sua argumentação. Nota: 160
• Competência III – Parágrafo com poucas marcas de autoria em “Uma preocupação bastante válida (…)”. Nota: 160
• Competência IV – Ausência de operador argumentativo intraparágrafo em “São muitas as perguntas e poucas respostas (…)” e “Uma relação transparente sobre a origem dos dados (…)”. Nota: 80
• Competência V – Prefira seguir a ordem natural dos elementos da proposta de intervenção: (quem deve fazer – agente social – + o que deve ser feito – ação – + como deve ser feito + para que (finalidade) deve ser feito + detalhamento da ação ou do modo como deve ser feito) no último parágrafo do texto. Nota: 80