Tendencias - Internacional
Juan Marenco: ¿Parar con los desarrollos de AI?
(31/03/23). Los gigantes tecnológicos encabezados por el magnate Elon Musk y una serie de expertos pidieron una pausa en los experimentos con IA, por temor a los "profundos riesgos para la sociedad" y para dar tiempo a asegurarse de que son seguros. La carta abierta, firmada hasta ahora por más de 1.000 personas, entre ellas Musk y Steve Wozniak, cofundador de Apple, fue impulsada por el lanzamiento del GPT-4 de la empresa OpenAI, respaldada por Microsoft. A raíz de este anuncio compartimos algunas consideraciones a cargo de Juan Marenco, CEO de Be Influencers que hace más de 7 años trabaja con empresas en estrategias para redes sociales y es un gran conocedor del tema.
"Los sistemas de IA con inteligencia humana competitiva pueden plantear profundos riesgos para la sociedad y la humanidad", afirma la carta abierta titulada "Pausa a los experimentos gigantes de IA".
"Los sistemas de IA potentes deberían desarrollarse sólo cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables", decía.
Musk fue uno de los primeros inversores en OpenAI, formó parte durante años de su consejo de administración y su empresa automovilística Tesla desarrolla sistemas de IA para ayudar a impulsar su tecnología de conducción autónoma, entre otras aplicaciones.
La carta, auspiciada por el Future of Life Institute, financiado por Musk, está firmada por destacados críticos y competidores de OpenAI, como el jefe de Stability AI, Emad Mostaque.
El pionero canadiense de la IA Yoshua Bengio, también firmante, advirtió en una rueda de prensa virtual en Montreal "que la sociedad no está preparada" para esta poderosa herramienta, y sus posibles usos indebidos.
Al respecto estas son algunas de las consideraciones de Juan Marenco:
- Llama la atención que lo hagan ahora y que no lo hayan hecho antes, cuando hace mucho tiempo que vienen sonando alarmas sobre no tener control sobre los propios algoritmos que generan.
- El llamado dice "que la pausa tiene que ser púbica y demostrable" lo que entiendo que quiere decir es que si no lo hacen todos no lo hará ninguno, en pos de no perder la carrera económica. No es algo grandiculocuente, finalmente.- Por supuesto que es importante que, no solo los que desarrollan, sino todos nosotros podamos entender mejor cómo funcionan estos algoritmos y qué impacto pueden llegar a tener. Sería bueno que esa pausa incluya un intento de capacitación al público general.
- Posiblemente el tweet de Marcos Galperin, y otros, sume a eso: ChatGPT no solo no tiene tanta información sino que está inventando directamente. Y ahí está el problema, en el invento y en crear información completamente falsa.- Lo que también sería bueno saber es qué información es la que se le da a estos algoritmos para que tomen como fuente, porque es ahí donde pueden surgir además gran parte de los problemas, los sesgos y el alimento para posibles malos resultados.
- Es raro el planteo respecto a los trabajos "gratificantes" vs los que no, eso es una mirada completamente subjetiva que también es peligrosa.- Pese a todo me mantengo optimista en base a estos desarrollos ya que la potencialidad es de mejorarnos la vida, no la de arruinarla o sacarnos los trabajos.
- Es clave en todo esto la intervención de los estados y la sociedad civil y no dejar esto exclusivamente en manos de empresarios o genios de la tecnología, es un trabajo interdisciplinario que debería incluir muchos más actores. En este caso se propone una pausa, pero la convocatoria al pensamiento y el trabajo no es tan contundente.