CUESTIONANDO LA CUESTIÓN DEL ESTUDIO DEL ESTADO DE LOS ROBOTS Y SU INFLUENCIA FUTURA¡¡¡¡¡

Hola amigos bloggeros hoy les traigo un tema candente y es que no se trata sobre los infames partidos de la selección mexicana y su reclasificación ante Nueva Zelanda; tampoco sobre las equivocaciones de nuestro queridísimo Presidente Peña Nieto. Sino que hablaremos sobre las consideraciones éticas de los robots, así como de la robótica que nos será útil en un futuro.

Bueno si se habrán dado cuenta me ha interesado y llamado más la atención un tema de controversia y a la vez de discusión que me ha permitido descubrir e investigar los cuestionamientos más grandes a preguntas como las siguientes:

¿Es ético desarrollar máquinas inteligentes?, ¿En un futuro las personas podrían perder su trabajo a causa de los robots?, ¿Las personas o seres humanos podrían perder su sentido de ser únicas?, ¿Será posible que los humanos nos convirtamos en robots? y ¿Los robots se conviertan en entes inteligentes?

¿Es ético desarrollar máquinas inteligentes?

Aparte de las ventajas e inconvenientes que supone el empleo de la Inteligencia Artificial en los diferentes ámbitos de la vida humana, es necesario plantearse si realmente debemos desarrollar la IA, es decir, valorar si son más probables los efectos negativos que los positivos, en cuyo caso, sería responsabilidad moral de los trabajadores en este campo, redirigir sus investigaciones a sabiendas de ello.

Muchas de las nuevas tecnologías han tenido efectos negativos no intencionados; el motor de combustión trajo la contaminación ambiental; la fisión nuclear produjo el desastre de Chrenobyl y la amenaza de la destrucción mundial. Todos los científicos e ingenieros se enfrentan a consideraciones éticas de cómo deberían actuar en el trabajo, qué proyectos deberían o no deberían hacer, cómo los deberían abordar. Existe un manual sobre la Ética de los Computadores (Berleur y Brunnstein, 2001). 

¿En un futuro las personas podrían perder su trabajo a causa de los robots?

La economía industrial moderna ha llegado a depender en general de los computadores, y selecciona programas de IA en particular. Por ejemplo, gran parte de la economía, especialmente en Estados Unidos, depende de la disponibilidad de créditos del consumidor. Las aplicaciones de las tarjetas de crédito, aceptaciones de cargo y detección de fraudes se realizan mediante programas de IA. Se podría decir que miles de trabajadores han sido desplazados por estos programas de IA, pero en efecto si eliminamos estos programas de IA estos trabajos no existirían, porque la mano de obra humana añadiría un coste adicional a las transacciones. Hasta ahora, la automatización por medio de la tecnología de la IA ha creado más trabajos de los que ha eliminado, y ha creado puesto de trabajos más interesantes y mejor pagados. Ahora que el programa de IA es un “agente inteligente” diseñado para ayudar al hombre, la pérdida de trabajo preocupa menos que cuando la IA se centraba en los sistemas expertos diseñados para sustituir a los hombres.

¿Las personas o seres humanos podrían perder su sentido de ser únicas?

En el libro de Weizenbaum (1976), "Computer Power and Human Reason" (El poder de los computadores y la razón humana), el autor del programa ELIZA, señala algunas de las posibles amenazas que supone la IA para la sociedad. Uno de los argumentos principales de Weizenbaum es que la investigación en IA hace posible la idea de que los hombres sean autómatas, una idea que produce pérdida de autonomía o incluso de humanidad. También podemos destacar que la humanidad ha sobrevivido a otros contratiempos hacia nuestro sentido de la unicidad: Descent of Man (Darwin, 1871) puso al "Homo Sapiens" al mismo nivel que otras especies. La IA, aunque sea una materia de gran éxito, quizá sea por lo menos amenazante para las suposiciones morales de la sociedad del siglo XXI al igual que la teoría de la evolución lo fue para los del siglo XIX.

¿Las personas podrían tener demasiado (o muy poco) tiempo de ocio?

Alvin Toffler en su libro "Future Shock" (1970) escribió, <<La semana laboral se ha recortado el 50 % a finales del siglo. No es absurdo decir que se volverá a reducir a la mitad hacia el año 2000>>. Arthur C. Clarke (1968) escribió en su libro "The world of 2001", que las personas del año 2001 <<podrían enfrentarse a un futuro de gran aburrimiento, en donde el problema principal de la vida es decidir cual de los cientos de canales de televisión seleccionar>>. En cambio, las personas que trabajan en las industrias muy relacionadas con el conocimiento han descubierto que forman parte de un sistema computarizado integrado que funciona 24 horas al día; para mantenerlo se han visto forzados a trabajar durante más horas. En una economía industrial, las recompensas son aproximadamente proporcionales al tiempo invertido; trabajar el 10 % más llevaría a producir un incremento del 10 % en los ingresos. En una economía de la información marcada por la comunicación de un ancho de banda alto y por una reproducción fácil de la propiedad intelectual, existe una gran recompensa por ser ligeramente mejor que la competencia; trabajar un 10 % más podría significar un 100 por 100 de incremento en los ingresos. De forma que todos se sienten más presionados por trabajar más fuerte. La IA incrementa el ritmo de la innovación tecnológica y contribuye así a esta tendencia general, pero la IA también mantiene la promesa de permitirnos ahorrar tiempo y permitir que nuestros agentes automatizados hagan las cosas por un tiempo.

¿El éxito de la IA podría significar la extinción de la raza humana?

Casi cualquier tecnología tiene el potencial de hacer daño si se encuentra en las manos equivocadas, pero con la IA y la robótica, tenemos el problema nuevo de que las manos equivocadas podrían pertenecer a dicha tecnología. Sobre esto hay mucha literatura Entre los primeros ejemplos podemos incluir Frankenstein de Mary Shelly, o el Modern Prometheus (El Prometeo moderno), y la obra de Karel Capek Rossum's Universal Robots (1921), en la que los robots conquistan el mundo. En cine, también tenemos Terminador (1984), en donde se combinan clichés de robots que conquistan el mundo con el viajar en el tiempo, y Matrix (1999), en donde se combinan robots que conquistan el mundo y el cerebro en una cubeta.

Para una gran mayoría, parece que los robots son protagonistas de muchas historias de conquistas del mundo porque representan lo desconocido, de la misma manera que las brujas y los fantasmas de cuentos de otras décadas más antiguas. ¿Suponen una amenaza más creíble que las brujas y los fantasmas? Si los robots estuvieran diseñados adecuadamente como agentes que adoptan metas de sus propietarios, probablemente no supondrían una amenaza: los robots que derivan de mayores avances sobre sus diseños actuales, sí que van a servir y no conquistar. Los hombres utilizan su inteligencia de formas agresivas porque son innatas, por naturaleza. Sin embargo, las máquinas que construimos no tienen que ser innatamente agresivas, a menos que decidamos que así sean. Por un lado, es posible que los computadores logren una clase de conquista sirviendo y haciéndose indispensables, de la misma manera que los automóviles han conquistado en cierto sentido el mundo industrializado. Este escenario merece más atención. En 1965, I.J. Good escribió:

<<Vamos a definir una máquina ultrainteligente como un una máquina que puede sobrepasar como mucho todas las actividades intelectuales de cualquier hombre, por muy inteligente que sea. Puesto que el diseño de las máquinas es una de estas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas incluso mejores; entonces existiría incuestionablemente una “explosión tecnológica”, y la inteligencia del hombre quedaría bastante atrás. Así pues la primera máquina ultrainteligente es la última invención que haya hecho nunca el hombre, siempre que la máquina sea lo suficientemente dócil como para decirnos cómo controlarla.>>

La “explosión tecnológica” también ha sido llamada singularidad tecnológica por el profesor de matemáticas Vernor Vinge (1993), quien escribió que, <<Dentro de treinta años, tendremos el medio tecnológico de crear una inteligencia superhumana. Algún tiempo después, la era humana habrá acabado>>. Good y Vinge señalan correctamente que la curva del progreso tecnológico actualmente está creciendo exponencialmente. Sin embargo, es un buen paso adelante extrapolar que la curva continuará hacia la singularidad de un crecimiento casi infinito. Hasta ahora, el resto de tecnologías han seguido una curva en forma de S, en donde el crecimiento exponencial finalmente decrece.

La preocupación y el miedo de Vinge radica en llegar a la singularidad; no obstante otros científicos están a favor de esa idea. En el Robot, Mere Machine to Trascendent Mind, Hans Moravec predice que los robots se igualarán en inteligencia humana en 50 años. Ray Kurzweil, en The Age of Sipirtual Machine (2000) predice que hacia el año 2099 existirá una fuerte tendencia a una fusión del pensamiento humano en el mundo de la inteligencia de la máquina que la especie humana crearon inicialmente y, por tanto, no habrá una distinción clara entre los hombres y los computadores.

Finalmente, si los robots pudieran adquirir consciencia, tratarlos como simples máquinas podría ser inmoral. Si los robots pudieran actuar moralmente, necesitarían ser programados con una teoría de lo que está bien y de lo que está mal. Incluso escritores de ciencia ficción han llegado a plantear en sus libros la posibilidad de que los robots pudieran tener derechos y obligaciones.

Ahora de acuerdo a estas posturas de los diferentes autores también tenemos En estos artículos aparecidos en "La Jornada", "The Independent" que comenta un artículo aparecido en "Science" se plantea la necesidad de restringir el contacto de robots con niños, personas ancianas o su uso en la guerra.

La idea principal de este planteamiento es que una excesiva relación de bebés o niños y ancianos con robots “podrían conducir al aislamiento y la falta de contacto humano, debido a la tendencia a dejarlos solos con las personas a su cargo durante periodos prolongados”, sostiene Steve Connor, autor del artículo y sin relación aparente con John Connor. 

El cada vez mayor desarrollo tecnológico de estas máquinas, unido a la tendencia existente en países como Japón o Corea del Sur a dejar a los menores al cuidado de robots durante horas podría causar en el desarrollo del menor un impacto psicológico todavía desconocido. “La investigación sobre robots de servicio ha mostrado que los niños se relacionan estrechamente con ellos y les cobran apego; en la mayoría de los casos prefieren un robot a un osito de peluche”, añade el profesor Noel Sharkey, autor del artículo de Science. En el caso de los ancianos la presencia excesiva acarrearía “el riesgo de dejarlos bajo el cuidado exclusivo de las máquinas, sin contacto humano suficiente. Los ancianos necesitan este contacto, que sólo pueden ofrecerles los cuidadores humanos y las personas que realizan tareas cotidianas para ellos”, apunta Sharkey.

Unas normas éticas respecto a los robots ya fueron aprobadas en 2007 por Corea del Sur, un país que se ha propuesto que haya un robot por familia para el 2020. Sin embargo, estas normas que propone el profesor Sharkey parecen ir más encaminadas a una limitación de la presencia de los robots en las vidas humanas y del contacto que las personas puedan tener con ellos. Suena a miedo ante el futuro, a reacción ante un progreso que es imparable.

Como bien se indica en el artículo, ya hay robots que desempeñan tareas propias de cuidadores. Esta realidad, unida a los avances tecnológicos que se realizan en Japón, Corea del Sur, Taiwán o EE.UU.,  no hace que en algún momento sea factible una realidad como la propuesta por la película Inteligencia Artificial (Steven Spielberg, 2001), en la que robots de apariencia humana sustituyen a las personas en diversas tareas y aspectos de la vida.  

 Pero para que esto suceda antes tendremos que superar “El Valle Inexplicable” un sentimiento de rechazo que las personas sentimos cuando nos encontramos ante un “robot humanoide de características humanas desconcertantes”.

Imagen de "El Valle Inexplicable"

Sin embargo, no todos los robots que se están creando tienen que ser algo que nos cause rechazo. Otros, como estos diseñados por Festo, son ejemplos de armonía y elegancia.

Pero si bien es cierto que la interacción entre humanos y robots se puede ver como una relación de relativa amistad y de paz. También por el contrario se podría llegar a apreciar que estos fuesen usados para la guerra, armas, terrorismo, etc. Y por lo que hemos conocido hasta el momento pues si los robots y la tecnología siguen avanzando como hasta el momento; pues en un futuro podríamos llegar a causar serios problemas a todos los habitantes del planeta Tierra a tal grado que nosotros mismos podríamos ser los destructores de la raza humana y de nuestro mundo, debido a las creencias de algunas personas con malos pensamientos y deseos.

Para esto he consultado un artículo que habla sobre lo siguiente:

El Consejo de Derechos Humanos de la ONU estudia el dia 29 de mayo en Ginebra un informe sobre los "Robots Autónomos Letales" (LARs por sus siglas en inglés).

Estos robots son una evolución tecnológica de los drones, aviones no tripulados utilizados en operaciones antiterroristas...  máquinas capaces de actuar en el campo de batalla sin intervención humana.  Son eficientes, no se cansan, y no ponen en peligro la vida de quienes los manejan a distancia.

El problema es que cuando atacan, cometen errores. Matan terroristas, pero también civiles inocentes. Según cálculos conservadores, en los últimos años los drones han matado cerca de 4.000 personas en Pakistán, Yemen y Somalia.

Su actuación ha recibido muchas críticas... y levanta dudas tanto éticas como legales. Dudas que ha recogido en su informe el Relator Especial sobre ejecuciones extrajudiciales, sumarias o arbitrarias de Naciones Unidas, Christof Heyns, que pide una moratoria internacional sobre el uso de estos "robots asesinos".

Aquí tenemos el enlace del Instituto Español de Estudios Estratégicos, al que pertenece el Teniente Coronel Mario Laborie. Contiene documentos de análisis, revista de prensa y numerosos enlaces de interés. Y este es su último artículo sobre los drones. También escribió uno con consideraciones éticas sobre los robots y la guerra.

 También interviene en el reportaje el director del IECAH (Instituto de estudios sobre los conflictos y acción humanitaria),  Jesús Núñez. A su juicio, de acuerdo con el Derecho Internacional, está  claro que la ONU debería ser el organismo encargado de una regulación, con el acuerdo de los 193 países de la organización, aunque lo ve muy difícil.  Jesús Núñez plantea también un aspecto interesante y poco tratado: que esa tecnología pueda caer en manos de grupos terroristas o países de los considerados rebeldes. En el mercado, drones y robots tienen un precio. Más información en  su blog, Extramundi. Y en el reportaje que publicó recientemente sobre los drones.

Y aquí tienes más información sobre la campaña  STOP A LOS ROBOTS ASESINOS, que apuesta por la prohibición de este tipo de armas. Y es que esta campaña es llevada por científicos que están en contra de que los robots tengan un poco de inteligencia para fines bélicos, porque imagínense que los robots pudieran tomar decisiones por sí mismos y no obedecieran las órdenes que nosotros los seres humanos les indicáramos. Pues simplemente "Good Bye" raza humana, "Adiós" mundo cruel pero pensándolo bien estaría perfecto porque ya no tendríamos que ir a la escuela jejejejejeje (no es cierto). Pero como siempre lo he dicho todo esto es una cruda realidad y de acuerdo a las Tres leyes de La Robótica que anteriormente explique en mi entrada de Wikipedia les puedo decir que los humanos tenemos que ser muy cuidadosos a la hora de programar y crear el pseudocódigo correcto para los fines que queremos a beneficio de la sociedad, jamás para dañar o destruir a todo lo que nos rodea o tiene vida. Un ejemplo clarísimo de esto es Kevin Warwick quién se ha dedicado a crear robótica útil especialmente a personas que tienen alguna patología o discapacidad y lo que ha desarrolado es tranferir inteligencia humana mediante chips a robots y no sólo él sino el desarrollo tecnológico amplio que hoy en la actualidad hay como Robonaut, o la tecnología innovadora de Corning, etc. Hay infinidad de recursos tecnológicos útiles que benefician a la sociedad. 

Para concluir, el tema de discusión (relativamente reciente) es muy amplio y extenso y con gran diversidad de opiniones sobre si es ético desarrollar máquinas hasta límites insospechados; más allá de la computación de datos. Aspectos como la sustitución de la mano de obra del hombre por una máquina que, aparentemente, se muestran como perjudiciales para el ser humano, se pueden transformar en aspectos positivos para él, por lo que resulta complejo establecer los límites éticos.

Lo cierto es que sobre este campo queda mucho por investigar, tanto en el ámbito estrictamente tecnológico como en el ámbito moral y filosófico, por lo que aventurarse a predecir lo que nos deparará el futuro se muestra como algo cuanto menos precipitado.

Pero antes de irme quisiera dejarles las 3 mejores revistas a mi juicio que hicieron aún más enriquecedor mi Estado de la Cuestión:

1.- Artificial Intelligence and Law: Esta revista contiene información sobre estudios teóricos y empíricos sobre la inteligencia artificial, la psicología cognitiva, la jurisprudencia, la lingüística y la filosofía, el razonamiento y la toma de decisiones. También incluye estudios en profundidad de los sistemas de inteligencia artificial innovadoras que se están utilizando en el ámbito jurídico, así como le da espacio a los estudios que abordan las implicaciones éticas y sociales del campo de la inteligencia artificial.

Además de las contribuciones originales de investigación, esta revista incluye una sección de reseña de libro, una serie de informes que describen productos de tecnología, aplicaciones y tecnologías existentes y emergentes, y una sección de notas de investigación de ensayos ocasionales que presentan desafíos de investigación interesantes y oportunas.

2.- Engineering Applications of Artificial Intelligence The International Journal of Intelligent Real-Time Automation: Las Técnicas de Inteligencia Artificial ( IA) están siendo utilizados por los ingenieros en la práctica de resolver toda una serie de problemas hasta ahora intratables . Esta revista ofrece un foro internacional para la rápida publicación de la obra que describa la aplicación de métodos de inteligencia artificial en todas las ramas de la ingeniería. Además esta revista publica:

Encuestas, tutoriales de estudios, ponencias - exposiciones detalladas de nuevas investigaciones o aplicaciones, estudios de casos o revisiones de software - opiniones evaluativas y descriptivas de los sistemas de software de IA disponibles actuales, habla también de la experiencia adquirida y las lecciones aprendidas en el uso o el desarrollo de sistemas de inteligencia artificial para aplicaciones de ingeniería; así como los problemas derivados de la práctica de la ingeniería, que necesitan ser resueltos por alguien, soluciones a los problemas discutidos en ese foro o en otro lugar, las críticas de una posición o reclamación que se encuentra en la literatura.

3.- Artificial Intelligence Review: Publica informes de investigación del estado de la técnica y las evaluaciones críticas de las aplicaciones, técnicas y algoritmos de inteligencia artificial, las ciencias cognitivas y disciplinas afines. Sirve como un foro para el trabajo de los investigadores y desarrolladores de aplicaciones de estos campos. También presenta artículos de investigación arbitrados y tutoriales, así como opiniones y comentarios sobre los hechos importantes.

Cualquier cosa que quisieras aportar a esta investigación de lo que los robots pueden hacer por nosotros y por lo que nosotros haremos por los robots, eres libre de hacerlo recordándoles que este blog es una comunidad innovadora. Muchas Gracias y espero sus comentarios :)