Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de Controle
RESUMO A partir da hipótese de que a inteligência artificial como tal não representaria o fim da supremacia humana, uma vez que, na essência, a IA somente simularia e aumentaria aspectos da inteligência humana em artefatos não biológicos, o presente artigo questiona sobre o risco real a ser enfrentado. Para além do embate entre tecnofóbicos e tecnofílicos, o que se defende, então, é que as possíveis falhas de funcionamento de uma inteligência artificial - decorrentes de sobrecarga de informação, de uma programação equivocada ou de uma aleatoriedade do sistema - poderiam sinalizar os verdadeiros riscos existenciais, sobretudo quando se considera que o cérebro biológico, na esteira do viés da automação, tende a assumir de maneira acrítica aquilo que é posto por sistemas ancorados em inteligência artificial. Além disso, o argumento aqui defendido é que falhas não detectáveis pela provável limitação de controle humano quanto ao aumento de complexidade do funcionamento de sistemas de IA representam o principal risco existencial real.
Main Authors: | , |
---|---|
Format: | Digital revista |
Language: | Portuguese |
Published: |
Universidade do Vale do Rio dos Sinos - UNISINOS
2022
|
Online Access: | http://old.scielo.br/scielo.php?script=sci_arttext&pid=S1984-82342022000300206 |
Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
id |
oai:scielo:S1984-82342022000300206 |
---|---|
record_format |
ojs |
spelling |
oai:scielo:S1984-823420220003002062022-11-21Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de ControleCandiotto,Kleber Bez BiroloKarasinski,Murilo Inteligência artificial risco existencial superinteligências controle humano RESUMO A partir da hipótese de que a inteligência artificial como tal não representaria o fim da supremacia humana, uma vez que, na essência, a IA somente simularia e aumentaria aspectos da inteligência humana em artefatos não biológicos, o presente artigo questiona sobre o risco real a ser enfrentado. Para além do embate entre tecnofóbicos e tecnofílicos, o que se defende, então, é que as possíveis falhas de funcionamento de uma inteligência artificial - decorrentes de sobrecarga de informação, de uma programação equivocada ou de uma aleatoriedade do sistema - poderiam sinalizar os verdadeiros riscos existenciais, sobretudo quando se considera que o cérebro biológico, na esteira do viés da automação, tende a assumir de maneira acrítica aquilo que é posto por sistemas ancorados em inteligência artificial. Além disso, o argumento aqui defendido é que falhas não detectáveis pela provável limitação de controle humano quanto ao aumento de complexidade do funcionamento de sistemas de IA representam o principal risco existencial real.info:eu-repo/semantics/openAccessUniversidade do Vale do Rio dos Sinos - UNISINOSFilosofia Unisinos v.23 n.3 20222022-01-01info:eu-repo/semantics/articletext/htmlhttp://old.scielo.br/scielo.php?script=sci_arttext&pid=S1984-82342022000300206pt10.4013/fsu.2022.233.07 |
institution |
SCIELO |
collection |
OJS |
country |
Brasil |
countrycode |
BR |
component |
Revista |
access |
En linea |
databasecode |
rev-scielo-br |
tag |
revista |
region |
America del Sur |
libraryname |
SciELO |
language |
Portuguese |
format |
Digital |
author |
Candiotto,Kleber Bez Birolo Karasinski,Murilo |
spellingShingle |
Candiotto,Kleber Bez Birolo Karasinski,Murilo Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de Controle |
author_facet |
Candiotto,Kleber Bez Birolo Karasinski,Murilo |
author_sort |
Candiotto,Kleber Bez Birolo |
title |
Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de Controle |
title_short |
Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de Controle |
title_full |
Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de Controle |
title_fullStr |
Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de Controle |
title_full_unstemmed |
Inteligência Artificial e os Riscos Existenciais Reais: Uma Análise das Limitações Humanas de Controle |
title_sort |
inteligência artificial e os riscos existenciais reais: uma análise das limitações humanas de controle |
description |
RESUMO A partir da hipótese de que a inteligência artificial como tal não representaria o fim da supremacia humana, uma vez que, na essência, a IA somente simularia e aumentaria aspectos da inteligência humana em artefatos não biológicos, o presente artigo questiona sobre o risco real a ser enfrentado. Para além do embate entre tecnofóbicos e tecnofílicos, o que se defende, então, é que as possíveis falhas de funcionamento de uma inteligência artificial - decorrentes de sobrecarga de informação, de uma programação equivocada ou de uma aleatoriedade do sistema - poderiam sinalizar os verdadeiros riscos existenciais, sobretudo quando se considera que o cérebro biológico, na esteira do viés da automação, tende a assumir de maneira acrítica aquilo que é posto por sistemas ancorados em inteligência artificial. Além disso, o argumento aqui defendido é que falhas não detectáveis pela provável limitação de controle humano quanto ao aumento de complexidade do funcionamento de sistemas de IA representam o principal risco existencial real. |
publisher |
Universidade do Vale do Rio dos Sinos - UNISINOS |
publishDate |
2022 |
url |
http://old.scielo.br/scielo.php?script=sci_arttext&pid=S1984-82342022000300206 |
work_keys_str_mv |
AT candiottokleberbezbirolo inteligenciaartificialeosriscosexistenciaisreaisumaanalisedaslimitacoeshumanasdecontrole AT karasinskimurilo inteligenciaartificialeosriscosexistenciaisreaisumaanalisedaslimitacoeshumanasdecontrole |
_version_ |
1756471916249481216 |