Off Topic

Doc Halliday dijo:

Y también nos plantea una inquietante pregunta sobre la naturaleza de la inocencia. ¿Hal es inocente o culpable?. ¿Podemos afirmar su culpabilidad por querer llevar a término el mandato recibido por encima de todo (como se le inculcó que hiciera)?.

Si planteas juzgar a una máquina como aun humano ya estás respondiéndote.

No recuerdo con detalle la película, pero diría que puestos a filosofar, es culpable, porque no está velando por la vida humana. Los asesinatos son evidentes, a pesar de las instrucciones…a nadie se le escapa que de esta pregunta se puede hacer una analogía con un soldado en una guerra, y los «daños colaterales».

Más vale una paz de mierd* que una guerra.

La situación nunca es perenne, todo cambia, nada permanece, y las cosas se pueden cambiar sin guerras. Más dada una dinámica belicista, quizás sea cosa de generaciones cambiar las cosas.

Dicho esto…no recuerdo la peli con detalle, pero creo recordar hay una escena evidentemente anterior a sus asesinatos en que un protagonista le enseña unos dibujos…y Hal le adula. Puede ser parte de su programación camelarse al personal para subir los ánimos de la tripulación…¿pero usar parte de esa programación para camelarse al personal para matarlos con premeditación…?

Si esa fuese parte de su programación, te estás cargando el argumento de la película de la influencia del monolito como símbolo de elemento externo que estimula la evolución….o bueno, quizás está dentro de los márgenes de la IA encontrar esta solución, una vez sabe que puede «adular» para conseguir algo de los humanos…un poco de psicología humana en su base de datos, vamos, y un poco de anatomía humana para poder curar…solo que utilizada para matar, y barajarlos para lograr su principal propósito. Es este caso, la pregunta sigue en el aire, más, ¿sin cargarse la peli?.

El cambio de Hal es debido a la influencia magnética del monolito, pero tomemos la segunda opción, para filosofar…una IA que baraja estos elementos para lograr su propósito…¿por motu propio?….en que momento decidió saltarse su programación?, ¿cuando apreció la debilidad humana que haría imposible el cumplimiento de la misión?

No lo hizo.

Te estás cargando la peli, por sacar esta pregunta. Lo que plantea, al igual que sucedió con los simios, es el monolito como símbolo de acicate evolutivo…acicate que está muy presente en toda ella: el miedo.

Los simios tenían miedo. Recelaban unos de otros, ¿o apareció el recelo con el monolito? La evolución les sirvió para aprender a usar el hueso como arma, y someter a otros simios.

Hal, por la influencia magnética del monolito, comete un error, una antena deja de funcionar, y son los humanos quienes se plantean si la máquina está preparada para la misión. Hal es consciente de ello, y como sucedió con los simios, alcanzada cierto grado de consciencia, y con ella va aparejada el miedo, y decide eliminar la amenaza.

Fin…si no contase con los mecanismos manuales, que salvan al prota y desmantela la máquina, ya «humana», ya temerosa…las súplicas finales de Hal, para los fans más acérrimos, no dejan de ser una estratagema, parte de su programa para convencer al prota y seguir sus fines, pero quizás Kubrick la caga y parece quería transmitir sensación de miedo para que el espectador que se pasase una sola vez por el cine se pudiese hacer una idea de que iba…no es para tanto.

En cuanto a la pregunta en si, culpable, en tanto y en cuanto no aceptes daños colaterales, o la guerra misma, como solución a algo.

Doc Halliday dijo:

En efecto, pero deja la pregunta gravitando sobre la sala de cine y todos nos la llevamos con nosotros: ¿Que es lo que somos?. ¿todo se reduce a un soporte para nuestra historia?. ¿Cabe pensarnos no tanto como sujetos particulares, sino como un almacén para el asunto de la información y su gestión? ¿…La conciencia del ser reducida a la exclusiva manifestación de estos procesos?.

Ghost in the Shell, como su propio nombre indica, separa mente y cuerpo a la antigua usanza, evocando el deseo de inmortalidad. Más tenemos un sostén maravilloso para nuestros cables. No creo debamos darle más vueltas. La base de la conciencia es puramente física, canales por los que se da el fenómeno de la informacion en que se genera el fenómeno cognitivo.

Alguna epifanía sobre la muerte he tenido en forma de pájaro…pero esto es otra historia…estaba en duerme vela, y el cerebro nos juega pasadas maravillosas.

Tru dijo:

En efecto Maestro…la pregunta queda en el aire, sin respuesta…la estratagema de Hal, ¿es similar al arrepentimiento humano?

¿Es nuestra conciencia igualmente “vacía”?

En principio la respuesta sería no atendiendo a lo que sigue:

Nosotros, somos seres gregarios, vivimos en comunidad, el arrepentimiento no necesita seguir unas pautas racionales para ser verdadero, pero el de una máquina si, lo que con Hal no sucede, el suyo es racional, es una farsa para seguir a lo suyo, un último intento de camelarse al personal.

Más puede que fuese también verdadero atendiendo a este mismo principio de comunidad:

Hal es un individuo autosuficiente para cumplir su misión, nosotros necesitamos de los demás. Pero Hal, necesita también a los humanos, y llegado cierto punto entiende que la misión fracasará si no accede a no matar a Dave. Quizás Dave se hubiese salvado sin desconectar a Hal…

De lo que adolece Hal, a todas luces, es de poder relativizar la importancia de la misión. Carece de sentimientos, y por tanto desecha las opciones cualitativas en pro de las cuantitativas, piensa que la misión será más importante para la vida humana en su conjunto que las vidas humanas que mata.

La dimensión humana de nuestro pensamiento, en tanto y en cuanto aprecia el tiempo que dura una vida, y su importancia por tanto, entra en confrontación con la lógica de Hal, parece esquivar, o decir, que la misión es perentoria, que es total y absolutamente necesaria para la vida humana, cuando otras misiones podrían lograr el mismo objetivo…¿aparece el ego como reflejo del miedo…?, ¿ha de ser Hal quien termine la misión a costa de vidas humanas?…¿el ego, la soledad, antecede quizás al miedo?

Esto, también lo vemos en las guerras. La lógica militar a menudo impulsa a decir «ahora o nunca», cuando en realidad lo que se pretende decir es «cuanto antes mejor», para sacrificar menos vidas humanas. Si no fuese así, la escalada armamentística seguiría y el conflicto se enquistaría, aún sin un solo tiro, pero esperando a poder dar el golpe definitivo. La guerra es absurda. Pero esta propuesta que expongo, sería mucho más humana, puestos a hacer el t0nt0, y tendría como último reflejo las armas de destrucción masiva, para que nadie moviese un dedo…o quizás si. La guerra es absurda. Es miedo, ego.

Y Hal es culpable. Su corteza de miras le ha condenado.

jeopardize dijo:

De todas maneras, me gustaría incidir más sobre el tema de la muerte; el miedo a morir es exclusivo de los seres humanos

Y de otros animales pienso yo. Podemos observar instintos de conservación en muchas especies, entendiendo instinto de conservación como el mecanismo que va más allá del comportamiento heredado para procrear que pueda tener una mariposa…un ratón escapa de su presa atemorizado…o en ocasiones se quedan paralizados por el miedo, pero tienen miedo…el miedo es un chorreo de sustancias químicas, que pueden paralizarte o espabilarte para actuar.

¿Son conscientes de su existencia? Diría que si. Se comunican al menos, se van reflejados en los charcos…

Hal, o cualquier I.A. imaginada suficientemente potente, podría emular las conexiones neuronales para tener una suerte de pensamiento, a imitación del de su creador o a expensas de un algoritmo creado para que relacione información que vaya obteniendo del entorno por las vías que sean, con un propósito.

En este sentido Hal teme no acabar su misión, la finalidad de su programa, la resultante a la que todo lo demás ha de conducir. Dicho de otra forma, su miedo proviene de su determinación.

Cuando toda la información procesada obedece a la consecución de un solo resultado, por decirlo de alguna forma, la obtención de este resultado es el «alma» de la máquina, su propósito. Y como decíamos, su miedo, «consciente», es no cumplirlo, un mensaje de error…que podría producirse no solo por la presencia humana…cualquier avería mecánica podría causar un fallo fatal, y la máquina podría ser «consciente» de ello, y tener más mensajes de error en la recámara…pero estos mensajes de error serían parte de su programa que en parte satisfarían su propósito como máquina,…Kubrick se tira de la moto para hablar de evolución como conocimiento y miedo…porque…¿que sería «consciencia» para una máquina?, ¿puede segregar sustancias químicas que alteren el funcionamiento de su «red neuronal»?…¿en base a que estímulos en tal caso?..el suyo como decíamos es un «miedo» racional, entendiendo miedo como el conflicto entre órdenes en su programación, contradictorias entre si, para lograr la determinación absoluta de cumplir su misión. Entrecomillo «miedo», porque lo llamamos así los humanos al ver la decisión de la máquina ante su conflicto, pues el resultado es la muerte de los humanos, lo que nos asusta a nosotros, no a ella.

Supongamos que a Hal simplemente se le ocurriese encerrar a los humanos y no matarlos para acabar su misión, ¿los mataría luego para no dejar pistas de su desobediencia o se justificaría?…o casi mejor, ¿necesita un dios justificarse?

En efecto, no creo que sintiese miedo…y digo que Kubrick se tira de la moto, porque bastaría, a la hora de programar a Hal, dejar al máximo nivel de su programa, o como fin del mismo, proteger la vida humana…pero entonces nos vamos a «Yo robot» y como en una I.A., por lógica también, aparecen conflictos internos en la máquina que vulnerarían las tres leyes de la robótica de Asimov…sin querer hacerlo, por supuesto.

jeopardize dijo:

Y más especulativamente, si suponemos a HAL “inteligente”, no puede desarrollar enfermedades mentales, como un humano?

Claro, ¿por qué no?…ya puestos…un mismo fallo mecánico podría propiciar el hecho…lo suficiente sutil como para mantener su funcionamiento sin aparentes taras. En Ghost in the Shell, muchas IAs enloquecen…y de hecho, parte de nuestro propio desarrollo, ¿no podría considerarse alteraciones a las copias anteriores defectuosas, pero afortunadas dependiendo del entorno?…en Ghost in the Shell, las IAs enloquecen por el uso, se desgastan…o son hackeadas.

jeopardize dijo:

Podría un AI tener un TOC?

Ya lo tienen.

jeopardize dijo:

Y sentimientos compasivos?

Lo dudo, como con el miedo, hace falta química. Una suerte de compasión racional puede…y sería un buen argumento para una peli…

Yo…he visto cosas que vosotros no creeríais…
Entrar a chavalas en llamas,
y no ir ni cerca de la puerta de su casa…
He visto rayos UVA brillar en la oscuridad,
en las tetas de alguna diva…
Todos esos recuerdos, se perderán,
como lágrimas en la lluvia…
es hora de partir.

Nexus 6, quizás en esos últimos momentos, quizás todo el quería eran las mismas respuestas que todos buscamos. El conocimiento siempre está presente de fondo, pero no dudo que las máquinas, ajenas a ansia alguna, por rápidas que sean, no tienen prisa.

Doc Halliday dijo:

si la conciencia se sustenta sobre bases físicas y esas bases físicas pueden ser replicadas, ¿Existe realmente la muerte?.

Desde luego.

Y disculpa el juego de palabras. Pero repito:

Desde…luego. Y más vale una imagen que mil palabras, o la marivollosa autobiografía de Bob Fosse, con esta despedida del señor Scheider…sabrás, que Gabriela Liffschitz rodó antes de su muerte una película llamada Bye bye life, dado un cáncer de mama, y que publicó unos desnudos suyos y las primeras relaciones sexuales que tuvo tras la mastectomía que le realizaron, en un libro que tituló «Efectos colaterales»

Se refería a su aspecto, o quizás a lo que debamos hacer en esta vida, amar.

Desde luego: como en Ghost on the Shell, si tomamos la consciencia como la información y su recuerdo consciente, para un ser vivo, que aprende lo que es la muerte por empatía, la pérdida de un ser querido, la duele más que la pérdida de la vida propia.

Más vive.

La muerte de otros deja un vacío que la muerte propia no dejará; la muerte de otros es dolorosa, la propia no.

Esto las máquinas están lejos de replicarlo, y tampoco interesa, la verdad. Que los recuerdos dejen una impronta tal en la red neuronal, que ha medida que la actives segregues sustancias químicas que lleven al doloroso recuerdo, no parece productivo.

Doc Halliday dijo:

Tan sólo la pérdida de la información, su disolución completa en el universo puede constituir a la manera budista la trascendencia. Poder escapar de la rueda del eterno retorno y, finalmente, hallar la paz. Una idea consoladora

Una idea indolora, inodora, y fanática…el que dicen primer maestro de Buda, padecía por todas las criaturas de la Tierra. Pero se llegó a esta suerte de asepsis afectiva huyendo del padecimiento, en base a consideraciones filosóficas..,racionales.

Horrososo. Los recuerdos, por dolorosos que sean, y aún aprendiendo a vivir con ellos, en efecto nos conforman como somos. De otra forma, seríamos quizás máquinas. Y digo quizás porque Hal ya tenía un gemelo, pero sin embargo hacía falta transferir su memoria para que fuese Hal, pues recuerdos, a pesar de su aséptico tratamiento, eran propios igualmente.

El descreído antiguo amante, que atormenta con su recelo a la bella gitana:

https://www.youtube.com/watch?v=XMALVK_I8hE