Um grupo representante dos direitos humanos na escola de Direito de Harvard está preocupado com o desenvolvimento de máquinas autônomas capazes de decisões próprias e o propósito da criação delas. Conhecendo bem a maneira como a humanidade evolui e usa a tecnologia das formas mais cruéis é totalmente compreensível. É observando as pesquisas militares nesse campo que eles estão conjecturando sobre um futuro ao estilo "Terminator", onde máquinas decidem sobre a vida humana.
Eles exigem que seja feito um tratado internacional para impedir a construção de máquinas que possam decidir por conta própria sem intervenção humana sobre a vida ou morte de pessoas.
Os descritos no relatório como "Robôs assassinos" obviamente contrariam a primeira lei da robótica idealizada por Isaac Asimov em seus contos de ficção.
Leis da robótica por Isaac Asimov
- 1ª Lei: Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.
- 2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
- 3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira e/ou a Segunda Lei.
A idéia da automação em combate é reduzir baixas no campo de batalha, mas construir máquinas que sejam capazes de tomar decisões como essas preocupam. Há a possibilidade de que elas tornem realidade o cenário imaginado em filmes como "Terminator" ao se rebelarem ou se descontrolarem como o "ED 209" do filme "Robocop".
Além disso, quem será responsabilizado por um assassinato cometido por um robô?
Mesmo em um campo de batalha, como um robô irá destingir entre soldados e civis?
Pensando em questões como estas é que querem proibir a construção desse tipo de máquina, que segundo o relatório poderão ser desenvolvidas nos próximos 30 anos.
Atualmente existem os "Drones" que compõem o poder bélico dos EUA. São aeronaves não tripuladas que foram usadas para reconhecimento, vigilância e ataques sobre o Paquistão. Essas não tem o poder de decisão própria, são controladas remotamente por um operador humano.
Mas já existe atualmente um sistema autônomo implantado em navios norte-americanos que identifica e intercepta projéteis inimigos sem a necessidade de ordens humanas.
Na Coréia do Sul há um modelo de robô sentinela que identifica atividades de invasores em uma área e se autorizado por um operador humano elimina o intruso.
É claro que esse tratado vai dar tão certo quanto o impedimento ao desenvolvimento de armas nucleares.
phys.org
