El inventor de Ethereum, Vitalik Buterin, ha advertido sobre los peligros potenciales relacionados con la inteligencia artificial altamente inteligente y la importancia de contar con salvaguardias sólidas.
En este momento, a medida que los avances en inteligencia artificial se aceleran a un ritmo sin precedentes, ha habido un aumento sustancial de las preocupaciones relacionadas con el aspecto de seguridad de la IA, y Buterin expresó recientemente estas ideas.
El plan de regulación de la IA de Buterin: responsabilidad, botones de pausa y control internacional
El 5 de enero, Vitalik Buterin compartió un concepto que él llama «aceleración defensiva (d/acc)», que implica la creación de tecnología principalmente para proteger en lugar de causar daño. Vale la pena señalar que esta no es la primera vez que Buterin aborda los riesgos potenciales de la Inteligencia Artificial.
En 2023, Vitalik Buterin afirmó que un posible resultado catastrófico del mal funcionamiento de la IA es casi inimaginablemente nefasto: podría conducir al fin de la humanidad misma.
En 2023, Buterin presentó sus teorías y ahora sigue adelante con ellas. Según Buterin, la llegada de la superinteligencia podría tardar sólo unos años.
Parece que AGI y la superinteligencia podrían convertirse en una realidad dentro de seis años. Para evitar una catástrofe potencial o un daño irreversible, no podemos simplemente acelerar el progreso de lo que es bueno; también debemos frenar el desarrollo de lo que es dañino», sugirió Buterin.
Para reducir los peligros potenciales de la inteligencia artificial, Buterin propone desarrollar estructuras de IA autónomas que se alineen estrechamente con el juicio humano. De esta manera, la IA sigue siendo una herramienta útil para los humanos, disminuyendo así la probabilidad de consecuencias desastrosas.
Más tarde, Buterin discutió la posibilidad de que sean las fuerzas militares las que manejen una situación de «catástrofe de IA». El uso cada vez mayor de la IA por parte de las fuerzas militares es evidente, como se demostró en Ucrania y Gaza. Además, expresó su preocupación de que cualquier regulación implementada para la IA probablemente excluiría al sector militar, convirtiéndolo en un peligro potencial.
En una discusión posterior, el cofundador de Ethereum detalló su visión para controlar el uso de la IA. Hizo hincapié en que el paso inicial hacia la mitigación de los riesgos relacionados con la IA debería implicar responsabilizar a los usuarios.
Como analista, reformularía esa afirmación de la siguiente manera: «La relación entre la creación de un modelo y su eventual aplicación a veces puede ser confusa, pero en última instancia depende del usuario determinar cómo se pone en práctica la IA. » enfatizó Buterin, subrayando la importante influencia que tienen los usuarios.
Si las regulaciones actuales sobre responsabilidades no son efectivas, una posible solución podría implicar la introducción de controles de «detención temporal», que permitirían que la supervisión de la IA desacelere temporalmente el progreso en áreas donde podrían ocurrir avances dañinos.
Nuestro objetivo es reducir temporalmente la potencia computacional global en alrededor de un 90-99 % durante un período crucial de 1 a 2 años. Esta drástica reducción le daría a la humanidad tiempo adicional para prepararnos para cualquier desafío que nos depare el futuro.
Dijo que la pausa se puede implementar mediante la verificación y el registro de la ubicación de la IA.
Un método alternativo es gestionar el hardware físico de la IA; como sugiere Buterin, este hardware podría mejorarse con un chip específico con fines de regulación.
Como investigador, estoy involucrado en un proyecto en el que los sistemas de inteligencia artificial pueden funcionar de manera efectiva solo después de recibir tres respaldos semanales de organizaciones internacionales. Es crucial tener en cuenta que al menos una de estas organizaciones no debe tener ningún vínculo militar.
Sin embargo, Buterin admitió que sus estrategias tienen lagunas y son sólo “medidas provisionales”.
- USD CLP PRONOSTICO
- USD MXN PRONOSTICO
- EPIC PRONOSTICO. EPIC criptomoneda
- USD PEN PRONOSTICO
- ALCH PRONOSTICO. ALCH criptomoneda
- HBAR PRONOSTICO. HBAR criptomoneda
- Cuando las ballenas criptográficas se desprenden de ballenas: RFC tanques 40%, pero el espectáculo debe continuar 🐋💥
- ALPACA PRONOSTICO. ALPACA criptomoneda
- ADA PRONOSTICO. ADA criptomoneda
- RAD PRONOSTICO. RAD criptomoneda
2025-01-06 09:09