Parece que a especie humana non se pode substituír. Polo menos de momento. Nos últimos anos non faltaron as predicións sobre como a Intelixencia Artificial (IA) e a robótica substituirían os seres humanos ocupando os seus postos de traballo. Agora parece que a maioría dos expertos en IA non ven un desenlace tan inmediato nin tan drástico.
Na súa versión do futuro, as persoas seguirán desempeñando un papel en colaboración cos sistemas intelixentes: cabe a posibilidade de que a tecnoloxía sexa tan avanzada que acabe asumindo o control, ou que as súas decisións teñan consecuencias que sexan demasiado importantes como para delegar todo nun proceso automatizado. Na toma de decisións, unha combinación home-máquina debería ofrecer mellores resultados que un traballo individual, opina David Mindell, catedrático do MIT e autor de Our Robots, Ourselves. Só hai un problema: cando as persoas e os sistemas semi intelixentes intentan traballar xuntos, as cousas non sempre saen ben.
Este ano presenciamos un exemplo catastrófico nas rúas de Tempe, Arizona. Un coche de probas de Uber equipado coa tecnoloxía de condución autónoma da compañía atropelou unha persoa que cruzaba a rúa acabando coa súa vida.
Como en case todos os coches autónomos, había un condutor de apoio para intervir se o software fallaba. Non obstante, o estudo da policía local concluíu que o condutor estaba distraído nese momento vendo un programa de televisión no seu smartphone.
O vehículo de Uber tiña un grao de autonomía que se estenderá a outros modelos a partir do próximo ano. O coñecido como sistema Level 3 está deseñado para conducir de forma autónoma na maioría de situacións, aínda que entregará o control a unha persoa cando se enfronte a casos que non poida xestionar.
“Un sistema que pretenda ser totalmente autónomo pero que de súpeto se desvía do seu labor pode despistar unha persoa”, aseguran os críticos. “Se só se require a intervención humana durante un minuto, non vai funcionar”, lamenta Stefan Heck, conselleiro delegado de Nauto, unha start up estadounidense cuxa tecnoloxía se utiliza para evitar que os condutores profesionais se distraian. Sen un deseño válido, os sistemas intelixentes poderían provocar unha clara reacción en contra destas tecnoloxías.
Cando a xente entenda as limitacións dos actuais sistemas de aprendizaxe automática, as esperanzas depositadas neles non tardarán en evaporarse, advirte Roger Schank, experto en IA e en psicoloxía de aprendizaxe. “O resultado será unha nova crise para a IA”, engade, en referencia ao período de finais dos oitenta, cando a decepción coa tecnoloxía provocou unha retirada masiva de investimentos.
Visión realista
Para evitar que isto suceda será necesario ter unha visión máis realista dos novos sistemas autónomos. Non obstante, a propia tecnoloxía presenta unha barreira. “Descoñecemos tanto a forma na que funciona a IA como a forma na que falla, explica Illah Nourbakhsh, profesor de robótica da Carnegie Mellon University. O coche semiautónomo é un exemplo dun sistema practicamente autónomo que non obstante depende da intervención das persoas.
A medida que avanza a IA, introdúcense sistemas híbridos como estes en distintas áreas. A aprendizaxe automática- o tipo de IA responsable dos últimos grandes progresos – é unha forma avanzada de recoñecemento de patróns. Xa demostrou a súa superioridade fronte ás persoas en tarefas como a identificación de imaxes ou o recoñecemento da fala.
Non obstante, é menos efectivo cando ten que analizar datos concretos sobre os que foi adestrado. No mundo real, a xente adoita tomar decisións sobre situacións que nunca viviu. O problema reside nos sistemas capaces de encaixar datos pero que non procesan a súa importancia.
As novas formas de cooperación entre persoas e máquinas están a botar raíces. En primeiro lugar, con situacións nas que as persoas actúan de soporte aos robots cando estes alcanzan o límite das súas capacidades. Un exemplo serían os centros de atención ao cliente, onde hai sistemas capaces de entender idiomas que resolven as dúbidas dos clientes.
O accidente de Uber é un exemplo extremo do que pode fallar, aínda que, segundo un estudo da Universidade de Stanford, un condutor tarda seis segundos en reaccionar. Pero, mesmo no caso de que haxa tempo abondo para recuperar a atención, a persoa que interveña podería interpretar as cousas de forma distinta á máquina. Isto implica que podería haber un problema de coordinación e un posible fallo.
O uso da linguaxe dificulta aínda máis as cousas. Dúas persoas poden comunicar algo en moi poucas palabras: o contexto axuda. Os informáticos aínda non conseguiron crear esa complicidade entre as máquinas.
Un segundo tipo de cooperación entre persoas e máquinas está deseñado para asegurarse de que unha tarefa complicada sempre dependa dunha persoa, mesmo en situacións nas que un sistema automatizado podería ser capaz de completar esa tarefa. Nos drons militares, por exemplo, sempre se recorre aos pilotos para que tomen a decisión de disparar a un obxectivo.
Os sistemas de recoñecemento facial-utilizados polos axentes de aduanas para identificar os viaxeiros sospeitosos – son outro exemplo. Nos dous queda demostrado como a IA pode aumentar a eficiencia das persoas. Unha das críticas das armas semiautónomas como os drons é que non hai barreiras técnicas para que se convertan en sistemas plenamente autónomos.
Segundo Stuart Russell, profesor de IA da Universidade de California, “non se pode dicir que a tecnoloxía só se pode usar en situacións defensivas e baixo supervisión humana. Non é verdade”. Outro exemplo de sistema con IA pero que require a intervención dunha persoa son os algoritmos que agrupan datos para despois ofrecer recomendacións. Estes algoritmos son incapaces de xestionar novas situacións.
Un erro da app que utilizan os condutores de Uber en San Francisco enviou uns pasaxeiros á terminal de carga do aeroporto en lugar de á de pasaxeiros. “Ás veces dános por seguir as instrucións dunha máquina ás cegas, outras en cambio, pensamos: ”un momento, aquí está a pasar algo”. Leva tempo adaptarse a algunhas tecnoloxías”, explica Tim ou ‘Reilly, experto en Internet e editor.
Diagnósticos médicos
Estes son casos que polo xeral teñen pouca importancia, pero ¿que pasa cando hai moito máis en xogo? IBM experimentou cos diagnósticos médicos, aínda que o sistema está deseñado para que a última palabra a teña un experto. Non obstante, os últimos avances da IA poderían ser máis difíciles de cuestionar. Grazas ao éxito de técnicas como o recoñecemento de imaxe, as expectativas destes sistemas foron mellorando. Avaliar a calidade das recomendacións dun sistema baseado na IA formula outros retos.
É probable que as persoas que non son expertas na materia se sintan remisas a cuestionar unha máquina cuxo funcionamento non entenden. Non é algo novo. Hai máis de trinta anos, un fallo técnico no software dunha máquina de radioterapia, Therac-25, cobrouse a vida de seis persoas.
Os técnicos foron incapaces de detectar o erro e a máquina seguiu funcionando moito máis tempo do que fora desexable.
A tecnoloxía utilizada na maior parte dos sistemas de aprendizaxe automática presenta novos desafíos. En xeral está baseada nunha teoría sobre o funcionamento do cerebro humano, que transmite a información a través de capas de neuronas artificiais ata que xorde un patrón que poida identificarse.
A diferenza dos circuítos lóxicos que se utilizan nun programa de software tradicional. non hai forma de facer un seguimento deste proceso para detectar con exactitude por que un ordenador ofrece unha determinada resposta en concreto. Este é un grande obstáculo na adopción de redes neuronais. Isto é o paradoxal da IA – os mellores sistemas adoitan ser os que hoxe en día resultan difíciles de entender.
Algúns expertos cren que se están facendo progresos e que non pasará moito tempo antes de que os sistemas de aprendizaxe automática sexan capaces de recoñecer os factores que os levaron a tomar unha determinada decisión. Moitos expertos na materia están convencidos de que cando as persoas e as máquinas colaboren, se obterán resultados moito mellores dos que se rexistrasen por separado. Non obstante, quedan algúns desafíos por resolver antes de que cheguemos a coñecer ese futuro prometedor.
(Fonte: Financial Times)