Noticias del Autor: mariano

Michael Crichton escribió algunos de los libros de ciencia ficción más conocidos que hay dando vueltas, desde Westworld hasta Andromeda Strain y Jurassic Park, sin embargo una de sus creaciones menos conocidas es la creación del término "amnesia de Gell-Mann" para explicar nuestra falta de pensamiento crítico.

"A grandes rasgos, el efecto de la amnesia de Gell-Mann se describe de la siguiente manera. Abres el periódico y te encuentras con un artículo sobre algún tema que conoces bien. En el caso de Murray, la física. En el mío, el mundo del espectáculo. Lees el artículo y te das cuenta de que el periodista no tiene absolutamente ninguna comprensión de los hechos o los problemas. A menudo, el artículo está tan equivocado que presenta la historia al revés, invirtiendo la causa y el efecto. Yo los llamo 'historias de 'las calles mojadas causan la lluvia'. El periódico está lleno de ellas.

En cualquier caso, lees con exasperación o diversión los múltiples errores en una historia, y luego pasas a la página de asuntos nacionales o internacionales, y lees como si el resto del periódico fuera de alguna manera más preciso sobre Palestina que la tontería que acabas de leer. Pasas la página y olvidas lo que sabes".

Michael Crichton (1942-2008)

Una gran forma de reconocer el valor del pensamiento crítico y el escepticismo; si siendo exigentes cuando leemos información sobre un tema que dominamos y encontramos errores o falsedades, debemos ejercitar el pensamiento critico cuando leemos algo fuera de nuestro campo de conocimiento... o corremos el riesgo de seguir a los que saben comunicar en vez de los que saben de un tema.

En un par de dias Facebook lanza Instagram Threads una apuesta para una red social para compartir mensajes y texto; mientras Twitter parece hacer todo mal pero ningún competidor logra lastimarlo realmente por dos razones simples: efecto de red y nombre.

Miremos rápido las alternativas a Twitter que se vieron en este año; Mastodon es genial pero es un dolor de cabeza; BlueSky la creacion de Jack Dorsey da vueltas porque no pueden poner su infra en orden; Spill no arrancó y Reddit... tiene tantas batallas internas que dan vergüenza... y como tienen que crear la masa crítica para lograr efecto de red, el usuario promedio se aburre y vuelve a Twitter.

Enter Instagram Threads

Desde que llegó a Twitter Elon Musk hizo casi todo mal pero logró algo interesante que fue romper algunos mitos y uno de esos fue que la gente encuentra valor en tener cuentas verificadas y pagaría por eso.

Es cierto, en Twitter se hizo mal y se convirtió en un badge of shame pero en Meta se hizo realmente bien y cada vez más gente tiene un badge porque hay una propuesta de valor atras.

Pensalo en “identidad verificada” o “soporte prioritario” o “protección de cuenta” o cualquier otro pilar… pero hay algo de esto que representa un gancho para que los usuarios paguen y, consecuentemente, sean más civilizados 🤣

Meta lo enmarcó en un concepto de “como usuario que quiere usar nuestra plataforma las preocupaciones son X,Y,Z (eg: seguridad, verificación, soporte) y esto te sirve en todos los productos” mientras que Twitter lo enmarcó en una guerra cultural hasta forzando el checkmark en gente que no lo quería.

Las comunidades no son fáciles, especialmente a escala, pero la confianza es su pilar… y la narrativa de Meta fue súper clara y directa; y ahora tiene una nueva fuente de ingresos sin confrontación o daño a la marca.

El resúmen: Paul McCartney utilizó AI en un demo de John Lennon para poder aislar su voz, limpiarla, editarla y poder editar un tema que nunca habían grabado y se lanzará como "El último tema"... pero no es la primera vez que se edita la voz de Lennon luego de muerto. Free as a Bird y real Love se editaron limpiando grabaciones de Lennon 15 años luego de su muerte.

Y esto, es más interesante de lo que parece porque abre la puerta a nuevos experimentos, mezclas y hasta juegos como el dueto que se usó en su ultimo tour... porque al fin del día no esta claro donde estará el límite del "gemelo digital" de un artista por más que se cuente con la autorización de sus administradores y, del otro lado del espectro, significa que hay nuevas herramientas para crear mezclas deep-fakes que nunca existieron,

Si hay una tendencia en los medios digitales que es terrible es el uso de titulos que sólo buscan generar clicks poniendo "preguntas" o explicando cosas a medias...

Un ejemplo básico esta en esta imagen, dice algo interesante, promete una explicación del tema en la nota; raramente eso se cumple y las notas son una basura que se pueden reemplazar con una solo palabra.

Y la realidad es que nadie logra resolver este tema; Techmeme logró algo editando los títulos de algunos links pero es difícil escalar cuando hay medios que se destacan por escupir notas solo pensadas para SEO y lograr clicks (afortunadamente algunos van a desaparecer).

Por eso el acercamiento de Artifact me parece realmente genial (en la imagen hay un ejemplo) y en este link esta la explicación exacta pero básicamente usan una combinación de "wisdom of crowds" y la función de sumarización de ChatGPT.

• Los usuarios marcan un titulo/nota como "clickbait"
• El algoritmo evalúa si hay suficientes votos en contra
• Le pide a la API de OpenAI que se comporte como editor, haga un sumario del link y edite un titulo de menos de 15 palabras.
• Profit :P

Hay algunos detalles más, como marcar los títulos editados con una estrella para saber que hay AI atrás y ver si hay que refinar, pero me parecio un caso de uso brillante por lo simple y como usa una tecnología en algo que sabe hacer exactamente y sumar valor al startup (una comunidad contenta genera engagement) sin enamorarse de la tecnología per-se.

Los casos de uso de AI van a seguir apareciendo y compitiendo constamentemente :)

Si algo distinguió a Bloomberg del resto de los proveedores de información financiera fue que siempre estuvo al frente del uso de nueva tecnología; ahora su terminal suma un modelo como ChatGPT pero entrenado y orientado puramente a finanzas.

Con las ventajas de estos modelos para dominios especificos de conocimiento, Bloomberg tiene un leverage competitivo gigantesco: entrenaron a BloombergGPT como un modelo financiero con su dataset propietario de 363.000 millones de tokens de documentos financieros en inglés, y lo aumentaron luego con un dataset similar en tamaño pero público; por eso los benchmarks de NLP dan números gigantescos.

Los tokens son las unidades básicas de texto o código que un LLM AI utiliza para procesar y generar lenguaje. Los tokens pueden ser caracteres, palabras, subpalabras u otros segmentos de texto o código, dependiendo del método o esquema de tokenización elegido.

LLM AI Tokens en Microsoft Learn.

Ahora, con este poder de fuego mejorando las herramientas para escanear noticias, datos, análisis de sentimiento y aplicardo en el sentido general de las preguntas que se pueden generar con lenguaje natural... le abre a Bloomberg un mercado gigante con casos de uso que no termino de imaginar.

Y esto es un gran paso para entender el peso de estos modelos en dominios de conocimiento específico. Qué mejor que finanzas para verlos claramente donde los resultados son blanco o negro, positivo o negativo.

Ayer se conoció una carta abierta con mas de mil firmas pidiendo que se abra un período de "freno" al desarrollo y entrenamiento de modelos de inteligencia artificial (LLM) superiores a GPT-4 por seis meses porque "no se entienden los alcances de esta tecnología". Los medios corrieron a publicarlo en medio de advertencias sobre el poder de la Inteligencia Artificial General; en Linkedin varios gurús hablaron de un apocalipsis mientras otros pedimos calma.

Hoy se descubrió que la carta estaba financiada por Elon Musk, que en las "mil firmas de científicos e investigadores" había muchas falsificadas y que otros tampoco estaban de acuerdo con el texto final.

Primero lo importante: ¿tiene sentido pedir que se frene el avance de los LLM?

Realmente no tiene sentido, arrancando por el hecho de que un modelo de linguistico grande (LLM) está muy lejos de ser una inteligencia artificial general capaz de sustituir y dominar a los humanos; de hecho incluso los firmantes de esa carta lo reconocen con lo que de movida no tiene sentido el pedido.

Segundo, ¿están pidiendo que "el Estado establezca una moratoria de seis meses"? ¿Qué aplicabilidad real tiene el pedido de algo a escala mundial cuando ni siquiera se pueden regular conceptos básicos como la exportación de tecnología a "estados rebeldes"?

Pero más allá de eso los "threat actors" que descubrieron en esto una nueva herramienta para sus intereses ¿van a frenar porque lo piden académicos? Si era así de simple, deberían pedir que se dejen de cometer crímenes :)

¿Porque Elon financió esta carta?

En 2016 cuando se funda Open AI, Elon Musk estaba en el grupo fundador y se comprometió a poner 1.000 millones, pero en 2018 se imaginó que el podía hacer mejor trabajo que el equipo liderado por Sam Altam entonces quiso tomar control de la iniciativa.

Le dijeron que no (porque no podia manejar Tesla, Space X y encima OpenAI) y se enojó y retiró la plata que se había comprometido a poner en el proyecto. Hoy, casi 5 años después, se arrepiente y decide crear un nuevo startup que compita con OpenAI pero necesita tiempo para alcanzarlos. ^{[Link a Semafor]}

Y esta usando Twitter para avanzar su agenda; ahí reside el valor de la apuesta que hizo por la red social.

Pero mas allá de todo, este incidente es clave para entender que estamos en un momento de cambio y que hay muchos intereses tratando de frenar el avance de una herramienta que ya está activa y evolucionando.

Mi postura sobre SVB es super clara, hice un post sobre el tema que es publico, pero estaría bueno leer otro punto de vista al simplificado que está dando vueltas por las redes sociales; por un lado Michael Moritz, partner de Sequoia en el Financial Times, y por otro Hemant Teja, CEO y MD de General Catalyst.

Pero antes que nada quiero dejar en claro 3 puntos que nadie puede negar y que haciendo el post mortem parecen no ser importantes:

• El valor del SVB en el nacimiento del ecosistema de startups y VCs es innegable. Cuando las empresas tecnológicas nacen y son "una idea liderada por dos emprendedores" los bancos tradicionales no le prestan atención... y cuando estás armando tu primer vehículo de inversión ¿quién estaba ahí dándote servicios?
• El manejo de riesgo fue terrible, aun con la excusa que los depósitos se triplicaron en la pandemia, diversificar mal fue estúpido y eso se paga; encima el CEO solo generó desconfianza con un timming terrible y una comunicación terriblemente mala.
• La cámara de eco de nuestro mercado fue destructiva y mostró POCO profesionalismo. De 3 fondos que arrancaron la corrida, las redes sociales empujaron una corrida de 42.000 millones de dólares en menos de 2 días, 3 veces más que la segunda corrida bancaria de la historia y aún así todos los pedidos fueron honrados.

Ecosistema implica una interconexión

In a perverse way, SVB has paid a price for its loyalty. Much will be said about the reasons for its demise, but few will dwell on what made it special for those of us in Silicon Valley. SVB stayed close to its roots and its customers. When it collapsed almost all of its 40,000 customers were technology companies — a drop in the bucket for the big banks.

Michael Moritz - Sequoia en el FT

"What should have been sophisticated, systems-level thinking quickly gave way to the most basic human instinct to act in one’s own self-interest, not out of malice or greed, but to ensure survival." ... "But the losses SVB reported should not have been fatal. The value-generating parts of the business remained intact, as did the deep relationships and trust SVB enjoyed with nearly every actor in our industry."

The counternarrative—that those investors who panicked first were fulfilling a fiduciary duty—is incomplete. We were all shocked at the speed with which the events of last week unfolded. But causing a bank run at the most important institution in your sector can hardly be considered an act of fiduciary duty. While your own company may be able to recover most or all of its cash, what happens if the resulting collapse wipes out your customer base? Or your venture debt provider?

Hemant Taneja - CEO General catalyst @ The Information

Creo que esas notas dicen bastante claro que hay algo que se perdió en el momento donde algunos dejaron de "ayudar a emprendedores a crecer!" para crear FUD (Fear, Uncertainty and Doubt) en redes sociales. De nuevo, el management hizo una peor que otra, pero no estoy seguro de que el banco fuera a colapsar.

La industria se debe un gran debate, que afortunadamente se está dando pero a puertas cerradas, sobre cómo se manejan rumores en épocas de redes sociales y mentalidad de rebaño.

Si decimos que de los errores se aprende.... tenemos una gran oportunidad como ecosistema, aunque hayamos matado a uno de los mejores socios del ecosistema.

La crisis del Silicon Valley Bank me trajo recuerdos a un Ministro de economía argentino quejándose del mercado -"Les hablé con el corazón y me respondieron con el bolsillo"- porque un componente importante de esta crisis se dio por temas de percepción y timming sumadas a una de las peores diversificaciones a nivel negocio que vi:

SVB customers were pulling deposits out of the bank as the prolific venture capital fund Founders Fund advised its startup companies to withdraw funds from SVB. This deposit outflow is forcing the bank to sell bonds worth $21bn at a combined post-tax loss of $1.8bn forcing SVB Financial to announce a public offering of common stock worth $1.25bn and $500mn of depository shares.

Esto disparó una serie de comunicaciones por parte del CEO que, en otro momento, podría generar un debate sobre que sus comunicaciones hicieron un cocktail explosivo:

• El CEO decidió vender varios millones de dólares que tenia en acciones del banco.
• Decidieron reforzar su balance sheet con 2.5bn luego de la venta de MBS a pérdida.
• Comunicaron esto el mismo dia que Silvergate, otro banco, tenía que cerrar operaciones por sus problemas de balance-sheet (misma lógica)
• Y comenzaron algunas declaraciones del CEO: “We have ample liquidity to support our clients, with ONE exception” y “If everybody is telling each other that SVB is in trouble, that will be a challenge.”

Honestamente creo que la suma de mala estrategia de negocio sumada a un muy mal timming y estrategia de salida, crearon lo que llevó al banco preferido del ecosistema de startups y fondos de inversión a ser intervenido por la FDIC porque no lograron interés de compradores que, en este punto, esperan que todo se rompa para pagar menos.

¿Cómo sigue esto? El procedimiento tradicional de la FDIC:

"All insured SVB depositors will have access to their insured deposits no later than Monday morning" ... "It would pay uninsured depositors an advance dividend within the next week." ... "Uninsured depositors will get a receivership certificate for the remaining amount" ... "as it sells off SVB’s assets, future payments may be made to uninsured depositors" ... "the FDIC will now look for a buyer to take over SVB" ... "If one can't be found, the bank will likely be pieced out over the coming weeks. Stockholders in the bank will be wiped out."

Ahora ¿quién va a pagar por este outlook? Acá les dejo el PDF con el update oficial del banco.

Me gustaría resaltar dos detalles de la nota del Financial Times sobre cómo los fondos de inversión están siendo cautos con las inversiones en el mercado de Inteligencia Artificial:

AI’s potential has drawn in the likes of Sarah Guo who, a year ago, led investment into the crypto sector for venture capital firm Greylock, having also been an angel investor into cryptocurrency exchange FTX. FTX has since collapsed into bankruptcy, but Guo has raised more than $100mn to invest into artificial intelligence with her new fund Conviction.

Link

Cuando uno maneja fondos o alocaciones de cientos de millones veo increiblemente dificil saltar de un mercado que necesita tanto domain knowledge, como cripto/web3, saltar a manejar cientos de millones en algo como inteligencia artificial donde se necesita mucho conocimiento para separar paja del trigo.

Aunque ambos mercados comparten el hype del conocimiento superficial:

One investor said that, because of the huge amount of capital and computing resources required, recent leaps in generative AI were comparable to landing on the moon: a massively impressive technical achievement, only replicable by those with nation-state level wealth.

Link

Cuando una tecnología arranca masivamente (no entremos en detalles de investigación y papers) es obvio que es un momento donde no hay economías de escala y que los modelos de negocio no son claros; encontrar donde existen esos modelos de negocio y donde esas economías de escala pueden aparecer es lo que distingue a los grandes inversores de los mediocres.

Cuando la duda sobre las inversiones en inteligencia artificial se den por las valuaciones es que no se termina de entender como es el stack de esta tecnología y cómo se dividen: plataformas, modelos y aplicaciones.

Es bastante simple de entender: plataformas cloud para AI son las 3 tradicionales con la entrada de startups como Coreweave, los modelos de IA son abiertos como Stable Diffusion o cerrados como GPT-3 y pueden correr en hubs como Hugging Face para finalmente ver aplicaciones de IA como Github Copilot o Midjourney que es el "front end" :)

En definitiva: hay muchos fondos que apuestan a AI y eso es porque tienen conocimiento como para entender el mercado y encima están completamente alejados del miedo que el Financial Times parece estar viendo en el mercado.

Brasil está haciendo casi todo bien en el mercado de fintech y payments, ahora el Banco Central acaba de darle la autorizacion formal a Meta para que Whatsapp Payments se lance en Brasil y pueda convertirse en un medio de pagos a PyMEs y, asumo, P2P.

¿Que es lo que tiene de bueno esto? la ubicuidad de Whatsapp es global, con lo que atando tu cuenta de banco a tu cuenta de Whatsapp tenes capilaridad que no creo que tenga ni siquiera Mercadopago... y todo incluido (hasta las tiendas de los negocios que van desde restaurantes hasta retail) integrado en una sola app.

Los pagos se hacen entre cuentas de banco, Facebook Pagamentos es la plataforma autorizada por el Banco Central de Brazil y la procesadora es Cielo.

Pocos libros son mas utiles para un startup que esta teniendo tracción que Startup Boards: A Field Guide to Building and Leading an Effective Board of Directors de Brad Feld y Mahendra Ramsinghani.

A veces se olvida que un board basicamente ademas de ayudar, guiar, opinar al CEO tiene la responsabilidad de proveer "accountability" y supervision ... y las reuniones de ese directorio tienen que ser super claras, con estructura y agenda para que nadie pierda el tiempo.

• ejemplo: sin agenda ni pre-reads se hacen preguntas que solo hacen perder tiempo; que haya agenda e información clara ayuda a entender quien le dedica tiempo realmente y quien no suma valor.

No solo eso, sino que entender como se compone y estructura un board ayuda a hacerlo efectivo sin que haya desbalances de poder (la cantidad de discusiones que he visto por esto) especialmente en situaciones donde el apoyo del board es clave: en 2021 era como discutir valuaciones astronomicas, en 2023 y 2024 podemos asumir discusiones menos amigables como M&A y firesales o como querer poner mas plata si estas creciendo sin parar ;)

When building a board, the path of least resistance is to start with what you have (Founders) and add the people who are included with your financing (Investor Directors). But having seen the impact of independent domain experts, I’m blown away that bringing some onboard as soon as possible isn’t a matter of top priority for founders.  

Will Gibs de Octopus Ventures

Una parte que me parece super interesante es como crear un "perfil" de board y especialmente como elegir los directores independientes (la falta de claridad al momento de "reclutarlos" mata muchas grandes sociedades), especialmente por sus redes, influencia en el ecosistema pero también teniendo en contra potenciales conflictos de interés o incluso compensación.

En definitiva, es un gran recurso para emprendendores... y en Amazon sale U$S18 para descargar en Kindle, una ganga ;)

Cuando Elon Musk decidio cortar acceso a las APIs a los developers externos lo hizo sin anuncio oficial, sin aviso de lo que iba a venir y sobre todo sin darle tiempo a los que ayudaron a Twitter crecer como plataforma a cambiar sus modelos o cerrar de forma ordenada.

Twitterific fue el que le dio el nombre "tweets" y el que uso un pajaro como logo antes que Twitter el que creo la primer app para MacOS y hasta el que "nesteó" respuestas a los tweets... literalmente creó el concepto de conversaciones y hoy está pidiendo a sus usuarios que instalen un update a sus apps solo para evitar la bancarrota.

¿que paso? un dia dejaron de funcionar sin motivo y hoy estan pagando las malas decisiones de Twitter

Ese dia se dieron cuenta que no tenian mas acceso a Twitter y tuvieron que asumir que su negocio habia muerto... pero no solo eso, sino que al morir su acceso a Twitter las suscripciones anuales via Apple Store se empiezan a devolver a los usuarios de forma automática; para entenderlo mejor:

Twitter’s kneecapping of third-party clients didn’t just mean that their future revenue was gone — it meant revenue they’d already collectedfrom App Store subscriptions would need to go back to customers in the form of prorated refunds for the remaining months on each and every user’s annual subscriptions. Consider the gut punch of losing your job — you stop earning income. It’s brutal. Now imagine that the way it worked when you get fired or laid off is that you’re also suddenly on the hook to pay back the last, say, 6 months of your income. 

Tweetbot and Twitterrific Face the Cliff

Lo que hizo Twitter/Musk es simplemente imperdonable en un ecosistema de partners... cuando uno tiene relaciones no solo comerciales sino casi simbioticas como una plataforma y sus clientes si no hace un "sunsetting" el acceso a las APIs porque sino matas a todo el ecosistema

Lección para ambas partes: el onboarding tiene la gran ventaja de que es el momento donde tenés todo por ganar y donde ambas partes se suman valor; el off-boarding en cambio necesita ser planeado porque la dinámica de abandonar una plataforma tiene derivadas que no podes ver instantáneamente.

Leccion para las "terceras partes": cuando haya cambios estratégicos en una plataforma creá planes de contingencia para estas situaciones.

Algunos links interesantes que encontré o estuve leyendo sobre Inteligencia Artificial, OpenAI, ChatGPT y hasta costos de infraestructura; no es un week-log en realidad pero... quizas es una buena forma de volver a escribir ;)

• Si alguien sabe de AI es Stephen Wolfram, asi qeu esto te ayudara a entender que esta haciendo ChatGPT, What Is ChatGPT Doing … and Why Does It Work?
• En ArsTechnica hay un buen recuento de como se llego a este punto en Generative AI - The generative AI revolution has begun—how did we get here?
• El problema de la caja negra de la inteligencia artificial en VICE (que es bastante alarmista pero no es malo) Scientists Increasingly Can’t Explain How AI Works
• Un analisis del costo de modelos de inferencia o ¿porque el mercado castiga a Google? en Semi: The Inference Cost Of Search Disruption – Large Language Model Cost Analysis
• Por eso Microsoft puede lanzar un asistente en Bing y aca esta el detalle: Reinventing search with a new AI-powered Microsoft Bing and Edge, your copilot for the web

From now on, the [gross margin] of search is going to drop forever.

Satya Nadella, Microsoft CEO

• Esto me resulto interesante porque habla sobre optimizacion de costos en estas tecnologias, The AI Brick Wall – A Practical Limit For Scaling Dense Transformer Models, and How GPT 4 Will Break Past It
• Y hablando de optimizar, me gusto esto porque habla de otros modelos: ChatGPT Burns Millions Every Day. Can Computer Scientists Make AI One Million Times More Efficient?
• Injeccion de prompts... o como se logra evitar algunos limites de las interfaces de chatr como ChatGPT o BingChat en Ars Technica: AI-powered Bing Chat spills its secrets via prompt injection attack [Updated]
• Mientras, en Product Hunt descubri " curated bundle of the most advanced AI prompts for image generation. From photorealism to cartoon: create anything you can imagine using Midjourney!"en best AI Prompts
• Y hablando de creatividad en The Atlantic te cuentan que tu creatividad no va a salvar tu trabajo de los transformers de inteligencia artificial en Your Creativity Won’t Save Your Job From AI

Al escribir algo de AI o cuando estoy tratando de usar sentido común para explicar algo hablo con Diego Basch para ver si pasa su filtro; pero la realidad es que el el "sentido común" es tan dificil de definir que es en esos puntos donde termino haciendo agua... y por eso me parecio maravillosa esta entrevista con Yeichin Choi

¿como definimos lo que es "entender"? ¿como definimos lo que es "saber"? ¿cuales son las excepciones? ¿como las manejamos? ¿como las definimos? ¿como interactuamos nosotros con el contexto que rodea la información?

Yeichin Choi usa el mismo ejemplo que me viene a la cabeza cuando me dicen "OpenAI no entiende lo que le pregunto" o "Google Bard comete errores de nene" ¿pueden las aves volar? nuestra respuesta automática es "si" pero la realidad es que la respuesta es "generalmente si" y ese "generalmente" depende del contexto de la pregunta.

”Commonsense is the dark matter of intelligence. We know it’s there, and we all rely on it effortlessly, yet it has been notoriously hard to pin down, especially for machines. My research seeks to tackle this longstanding challenge in AI (artificial intelligence) by teaching machines to reason about the likely causes and effects of everyday events and the likely intents and mental states of people in relation to those events.”

Jeichin Yoi en la MacArthur Foundation

Pero más alla de esto que es clave ¿como definimos el sentido común? la entrevista revisa el concepto de value pluralism o las diferentes verdades a las que nos enfrentamos y como esas verdades, hoy explícitamente, toman en cuenta valores morales.

These rules basically cannot be written down as universal truths, because when applied in your context versus in my context, that truth will have to be bent. Moral rules: There must be some moral truth, you know? Don’t kill people, for example. But what if it’s a mercy killing? Then what?

Si algo hay que reconocerle a Elon Musk es que esta rompiendo cosas a un ritmo que pocos esperaban de un "hardcore 100x engineer" y no hablo de los problemas que todos sufren por consolidar datacenters o cortar costos de cloud ni hablo de tener que pausar funcionalidades para enfocar al equipo de ingenieros que sobrevivieron a los recortes en evitar que se caiga y ojo, tampoco hablo de los menos de 0.5% de usuarios que se sumaron a Twitter Blue cuando esperaban un 10% ... ni de la caida de mas de 40% en ingresos publicitarios gracias a su politica combativa de avergonzar a los anunciantes.

Hablo de dos cosas muestran claramente que desprecia o menosprecia a la comunidad que le da valor a Twitter:

• Sin third-party devs no existe el concepto de plataforma esto es obvio, con lo que nutrir y cuidar a una comunidad de aplicaciones que monten sobre tus datos te deje extender el valor de tu plataforma al punto que te volvés indispensable... sin estas terceras partes, perdés valor.
  Con lo que cortar el acceso sin notificacion, como hizo hace un mes, y luego cambiar de estrategia constante y hasta la fecha de lanzamiento de la "nueva API y pricing" es LITERALMENTE una de las peores decisiones que vi.
• Negar el derecho a borrar datos personales y privados como los mensajes directos, no es solamente ilegal, es peligroso para todos y cada uno de nosotros.
  Lo pongo mas simple, muchos usuarios europeos estan pidiendo que se borren los DMs de la plataforma y son ignoradoss al punto que la UE esta analizando el caso sin embargo lo peor (y que pocos reportaron) es que los "periodistas" que se usaron para publicar los #TwitterFiles tuvieron acceso a los DMs de las cuentas que analizaron mostrando que la privacidad no existe.

Trato, realmente, de ser objetivo analizando a Elon Musk y sus delirios pero no puedo creer que despide ingenieros porque sus tweets no son mas leidos, aun luego de análisis técnicos le demuestran que tiene menos engagement... y esto muestra que el View Count es simplemente inventado para empujar visualizaciones algorítmicas...

Entonces, lo miro desde afuera y pienso ¿si rompe la confianza de los anunciantes, de la comunidad de developers y hasta de los ingenieros que lo contradicen? ¿cuanto aguantara el efecto de red que hace a Twitter relevante? ¿soportara que las marcas tengan que pagar extra para proteger sus marcas? ¿que los "creadores de contenido" sean atraidos a pagar una suscripcion para "potencialmente"recibir publicidad?

Solo rants de alguien que gracias a Twitter disfrutó demasiado :)

Fue Steve Jobs el que dijo "If you don't cannibalize yourself, someone else will." y creo que por eso la acción de Google cayó un 9% en un solo dia cuando apuró un evento de AI y no porque "hubo un error en una demo".

Lo que el análisis de 280 caracteres resume en "Google perdió un 9% porque una demo salió mal" es no entender el porque Google no habia presentado hasta ahora una interfaz conversacional como ChatGPT para aumentar los resultados: esto cambia la dinamica de negocio y no hay incentivos para innovar si canibalizas tus ingresos mientras cambia tu estructura de costos

• La estructura de costos de una interfaz conversacional sobre inteligencia artificial es diferente a la del modelo actual de los buscadores (aka: 10 blue links).
• El modelo de ingresos cambia radicalmente versus la actual integracion de links de anuncios arriba y abajo de los resultados en varios sentidos:
  • La interfaz es diferente entonces el espacio "above the fold" cambia; la integracion/mezcla de SERP/SEO cambia
  • pero mas estratégico es que el usuario ahora espera algo mas que "un link con la informacion" y nadie hizo pruebas a escala de esos nuevos modelos.

Pero entonces ¿con tantas preguntas porque el mercado le pego a Google este golpe que borró $100b en una hora? porque esperaban que se presente algo parecido al nuevo Bing que presentó Microsoft y Google no lo hizo... repito: no lo hizo porque pese a tener talento y tecnologia no tenia incentivos para probar algo que pudiera canibalizar su modelo de negocios por eso hay otro jugador, Microsoft, probando cosas nuevas.

¿Porque hablo de Microsoft si empece hablando de la caida de 9% en un dia de $GOOG o citando a Steve Jobs? porque la realidad es que en algun momento todos los negocios necesitan cambiar... y los mejores ejemplos son los dos "abuelos" del mercado de las Big Tech: Apple y Microsoft tienen 47 años y ya sufrieron reinvenciones.

Apple presento el iPhone en 2007 sabiendo que iban a volver obsoleto al iPod aun cuando era el motor de su crecimiento; Microsoft se enfoco en la nube aun cuando era su core eran los servers... "If you don't cannibalize yourself, someone else will."

Enter Satya y su experiencia en canibalizarse antes que lo canibalice otro, que explica MUY bien en su entrevista con The Verge sobre "The New Bing":

Like all things, one of the things that I think about is, in platform shifts, two things have to happen. You have to retool pretty much every product of yours, so you’ve got to rethink it, whether that’s the way you build it or what its core features are. It’s like how Microsoft had to pivot for the cloud to rethink exchange. It was not an exchange server. It was exchange as a service or what we had to do with our server infrastructure. We had to rebuild, essentially, a new core stack in Azure. So every time, with transitions, you have to essentially rewrite it. That’s how I think about it. The second thing is you also have to think about the business model. Sometimes these transitions are pretty harsh. I’ll tell you, the last transition from having the high share server business with great gross margins to saying, “Hey, the new business is called cloud, and it’s going to have one-fourth the margins” as the new news was pretty harsh, but we made it.

Satya Nadella explicando las dos caras de un cambio de paradigma.

Pero ¿hace bien el mercado en apostar contra Google? honestamente no lo creo... Google tiene el talento, tiene el market share y sobre todo tiene a Chrome y Android para apalancar todo; ojala hoy tengan algo de miedo y dejen de alocar experimentos interesantes como Google Duplex a una parte de Assistant.

Me pareció interesante el lanzamiento de Quora, POE o “Platform for Open Exploration” es su AI conversacional usando OpenAI y Anthropic como motor para encontrar contenido con dos enfoques diferentes pero sin entrenarlo con su contenido porque todavía no esta claro como impacta en propiedad intelectual y saben que no hay precisión fáctica... sabiendo que quieren construir un ecosistema sobre este.

(1) Dos modelos en un producto ¿porque Quora usa dos motores y cuales son las diferencias entre OpenAI y Anthropic? Por las dudas explico algo básico; cada modelo tiene su propio entrenamiento, cada modelo se optimiza para cosas diferentes y, estoy seguro que a medida que aparezcan mas opciones veremos cosas muy diferentes (eg: un modelo entrenado en el "cespool of hate" que es Twitter seguro sale racista pero sin duda va a estar optimizado para engagement) lo bueno de esto es que uno puede elegir.

Por ejemplo, por la base de sus decisiones, OpenAI no tiene acceso a eventos posteriores a 2021 y Anthropic no responde ciertas preguntas (honestamente no se cuales son esos lineamientos) entonces cuando instalas POE y elegís entre Sage, Claude o Dragonfly... en realidad estas eligiendo bots entrenados por esas modelos y atados a esas limitaciones...

Por esas mismas limitaciones, que incluyen los sesgos de entrenamiento, las limitaciones de dataset y sobre todo que no están entrenados para certeza es que NO se integran en Quora sino que se mantiene como un "extra" para experimentar... de ahi su nombre: “Platform for Open Exploration”

(2) una comunidad para refinar preguntas y resultados Y acá viene lo interesante de Quora, no solo podes elegir el modelo, sino que podes crear un perfil y seguir a otros usuarios que esten usando POE y puedas usar sus "prompts" para hacerles sintonía fina y vayan mejorando... con algo de suerte una comunidad de varios cientos de millones ayudaran a mejorar el modelo con el ida y vuelta que genera su uso.

(3) una api para crear ecosistema Ah, si sos developer... Quora está preparando una API para que puedas integrarlo en tus aplicaciones o crear algo nuevo desde cero en ese ecosistema. Que es lo que, en última instancia, los va a separar del resto y le da sentido a la frase que uso el CEO en el anuncio:

Over time, we hope to become the most efficient way for people to collectively explore the possibilities opened up by new AI models as they are released. 

Adam D'Angelo: POE

Pueden descargar POE para iOS en este link

El experimento del Juez Juan Manuel Padilla Garcia, de Colombia, es de los mas interesantes que he visto con OpenAI en el mundo real, cuando el Juzgado 1º Laboral del Circuito de Cartagena, usó ChatGPT para dictar sentencia y lo fundamentó en el documento... usandolo como copiloto.

"...extender los argumentos de la decisión adoptada, conforme al uso de inteligencia artificial (IA). Por consiguiente, se procedió a incluir apartes del problema jurídico planteado en la presente sentencia y se ingresó en el aplicativo https://chat.openai.com/chat" ... "El propósito de incluir estos textos producto de la IA no es en manera alguna reemplazar la decisión del Juez. Lo que realmente buscamos es optimizar los tiempos empleados en redacción de sentencias, previa corroboración de la información suministrada por IA"

Fundamentos: Juez Juan Manuel Padilla Garcia, P5 y 7

En el link está el documento completo del juez pero la base es simple de entender; estos modelos (LLM y Transformers) son herramientas que necesitan corroboración de un humano para darle sentido a su respuesta.

La base de todo es simple: la respuesta que uno ve en ChatGPT o cualquier otro modelo, se genera por un modelo estadístico que decide que palabra (o símbolo) va luego de otra, sin entrar en valoración del sentido de lo que esta entregando.

Eso es lo que genera mucha confusión alrededor de estos transformers: Sus respuestas hacen sentido, son rápidas y son asertivas pero no están orientadas a certeza sino a modelos estadísticos.

Por eso me gusta el concepto de "copilotos" como una herramienta que ayudan al piloto con datos y background que uno puede tomar para mejorar el producto final... el segundo punto que hay que entender que pocas veces esto es un one-off; hay valor en refinar prompts, en follow ups, en buscar hacks y así dandole verdadero valor al concepto conversacional.

Por eso Stack Overflow se prohibe copiar respuestas de ChatGPT sin verificacion y errores en sus respuestas matemáticas y por eso hay gente horrorizada de verlos sin entender las limitaciones que estos modelos tienen y no terminan de entender que estamos en una era hibrida de IA

Explainability and comprehensibility of AI are important requirements for intelligent systems deployed in real-world domains. Users want and frequently need to understand how decisions impacting them are made. Similarly it is important to understand how an intelligent system functions for safety and security reasons. In this paper, we describe two complementary impossibility results (Unexplainability and Incomprehensibility), essentially showing that advanced AIs would not be able to accurately explain some of their decisions and for the decisions they could explain people would not understand some of those explanations.

Roman V. Yampolskiy - Unexplainability and Incomprehensibility of AI