Quando as pessoas dependem muito de ferramentas tecnológicas, deixam espaço para erros e sacrificam a oportunidade de minimizar o impacto dos mesmos.
A tecnologia foi criada para corrigir erros humanos, mas quando ela se torna o único tomador de decisão, pode haver problemas sociais. As ferramentas tecnológicas também cometem erros. Quando temos fé cega na tecnologia, podemos falhar em detectar erros em seus processos. Por exemplo, uma conta da Associated Press anunciou no Twitter que Barack Obama tinha sido baleado em 2013. Isto afetou automaticamente o sistema de negociação de ações, uma vez que o algoritmo respondeu às informações. Isto levou a uma perda de $136 bilhões em ações da Dow Jones.
Outro caso de erro tecnológico foi o sistema de radar da URSS que detectou mísseis apontados para a Rússia em 1983. Petrov estava encarregado do sistema de alerta nuclear e teve que situar sua próxima decisão na tecnologia. Nesse caso, poderia ter começado uma guerra termonuclear. Em vez disso, ele tomou a decisão certa de não confiar na tecnologia e reconheceu que se tratava de um falso alarme.
Apesar da grande utilidade das ferramentas tecnológicas, tais erros são comuns. Neste sentido, a União Europeia está exigindo maior controle humano sobre as decisões tomadas pelas máquinas. De acordo com as diretrizes éticas da Comissão Europeia, estas enfatizam a necessidade de controle humano sobre a inteligência artificial. Em vez de ter autoridade total para tomar decisões, estas ferramentas tecnológicas podem ajudar os indivíduos a tomar decisões mais informadas. Em outras palavras, os seres humanos devem manter seu controle sobre a inteligência artificial.
Em nosso uso diário da tecnologia, muitas vezes confiamos nessas ferramentas para tomar nossas decisões. Isto pode ser devido à preguiça, à falta de confiança nas decisões humanas ou à visão de que as máquinas tomam melhores decisões. Infelizmente, estas suposições nem sempre são verdadeiras, como já vimos com erros anteriores criados por estas máquinas.
Ao invés disso, através do uso da tecnologia, os seres humanos ainda podem exercer algum controle sobre o sistema. Isto envolve a seleção dos dados inseridos no sistema e a análise dos resultados. Portanto, as decisões finais são tomadas por seres humanos. Isto pode permitir que os indivíduos reconheçam quaisquer erros cometidos pelo sistema e, em última análise, contribuirá para o crescimento da tecnologia centrada no ser humano.
A economia e a saúde de nossa sociedade dependem desta interdependência. A tecnologia está envolvida em operações cirúrgicas, decisões comerciais e distribuição de energia, o que pode ter um enorme impacto na vida das pessoas, caso ocorram erros. Portanto, quando estes processos permanecem sob controle humano, podemos usar nossa inteligência para evitar as sérias implicações dos erros tecnológicos, corrigindo rapidamente as falhas.
A Universidade Internacional Iberoamericana (UNINI Puerto Rico) oferece diversos cursos para que os alunos aprendam mais sobre a manutenção da tecnologia. Por exemplo, um dos cursos é o Mestrado em Direção Estratégica com Especialidade em Tecnologias da Informação.
Fonte: ¿Por qué no debemos dejar que las máquinas tomen decisiones por nosotros?
Foto: Todos os direitos reservados
