Cuando “romper cosas” cuesta vidas

Ayer se conoció la noticia de que Thomson Reuters compró Casetext, la puesta en marcha del espacio authorized de Jake Heller y Pablo Arredondo, por 650 millones de dólares. Habiendo seguido a Casetext desde el principio, cuando comenzó con una thought tonta de una herramienta de investigación jurídica colaborativa a su pivote hacia la investigación authorized, y pivotar aún más para incluir la investigación authorized de IA. Como experiencia reciente ante el juez Kevin Castel cuando los documentos incluían casos inexistentes inventados por IA, la mala tecnología authorized puede causar algunos problemas muy reales para los abogados y sus clientes. Es evitable con un poco de esfuerzo, ciertamente, pero no obstante, mala tecnología.

Pero el espíritu de “muévete rápido, rompe cosas” asume que nadie saldrá perjudicado si un intento de innovación sale mal. Cuando se trata de la mayoría de la tecnología y la innovación, eso es cierto en su mayoría, aunque siempre se puede argumentar que, por unos pocos giros, el daño finalmente le sucedió a alguien. Y cuando se trata de tecnología irregular como la IA generativa en la ley, ¿qué clase de abogado perezoso y descuidado no revisaría las citas generadas por la IA para asegurarse de que existen? Después de todo, ¿quién creería que cuando ChatGPT te cube que Smith contra Jones es un caso del Distrito de Nueva Jersey de 1978 que estaba en cuatro patas, se lo sacó de su ano synthetic?

Este ethos, sin embargo, no se entendió necesariamente como un curso aceptable para la innovación intrascendente, y en las mentes de los demasiado apasionados e indebidamente simplistas, porque una perogrullada para racionalizar todas y cada una de las concepts novedosas locas, no probadas, irracionales y sin fundamento que surgieron en alguien está noggin, incluso cuando vidas humanas reales estaban en juego.

“En algún momento, la seguridad es puro desperdicio”, Sr. Rush dicho en una entrevista con David Pogue de CBS. El incluso sugirió esa seguridad fue utilizada como excusa por “actores de la industria que intentan usar un argumento de seguridad para detener la innovación”. OceanGate lo expresó de esta manera en su sitio internet: “Por definición, la innovación está fuera de un sistema ya aceptado”.

Según el relato del Sr. Rush, la innovación period competencia de los individuos inconformistas, no de los pesados ​​jugadores heredados y ciertamente no de las engorrosas burocracias gubernamentales. Rush estaba perpetuando un mito, uno que es particularmente well-liked en Silicon Valley y entre las nuevas empresas de tecnología, de que los gobiernos son solo un obstáculo y que la innovación proviene de pioneros audaces que se mueven rápido y rompen cosas.

Esa historia a menudo es incorrecta, y fue 100 por ciento incorrecta en este caso.

La cita se refiere al sumergible Titán, que period genial e innovador hasta que implosionó y mató a todos los que estaban dentro. Este argumento, la tensión entre la regulación, las pruebas, la seguridad y la eficacia, y el nuevo y genial “¿por qué no?” desafío a lo que existió antes.

La teoría en Silicon Valley es que si vuela uno de cada cien nuevos conceptos, los beneficios cubrirán con creces el costo de los 99 fracasos. La mayoría de las veces, nadie muere como resultado de esos 99 fracasos, y el único riesgo es la pérdida del capital de la incubadora, que es aceptado por los estúpidos niños ricos del dinero.

Pero el fenómeno de “muévete rápido, rompe cosas” no se detuvo con las innovaciones tecnológicas inofensivas. A medida que se extendió a las innovaciones tecnológicas físicas como el sumergible Titán que no podía salirse de las leyes de la física, también se extendió a casi todas las soluciones profundas de Twitter para los males de la sociedad. ¿Desfinanciar a la policía? ¿Qué podría salir mal?

En los primeros días de Casetext, la thought innovadora de una herramienta de investigación authorized colaborativa period interesante y, como parecía ser, inviable en numerosos niveles. Si Jake y Pablo no hubieran girado, Casetext podría haber sido otro Shpoonkle. La mayoría de las “innovaciones” terminan siendo fracasos, no porque la gente no esté dispuesta a probar nada nuevo, sino porque ser “nuevo” no es lo mismo que ser viable o sólido.

Para los pasajeros y la tripulación del sumergible Titán, la adoración por la innovación en detrimento de la seguridad les costó la vida. Para los abogados que pensaron que ChatGPT podría ahorrarles el esfuerzo de ser un abogado competente y responsable, les costó dinero y humillaciones. Para la sociedad, la miríada de esquemas que “solucionarán” los problemas intransigentes de la sociedad pueden dañar con la misma facilidad a las personas que apasionadamente afirman querer ayudar, y es más possible que causen daño que solución.

Claro, es posible que algo nuevo, genial e innovador sea genial y funcione. Pero lo posible no es lo suficientemente bueno cuando la vida de las personas está en juego. Hay una razón no derribar la cerca de Chesterton hasta que entendamos qué daño podría hacer. El Casetext terminó bien no significa que Shpoonkle no fuera un desastre idiota. Que el sumergible Titán haya costado cinco vidas humanas nos informa que “romper cosas” solo es aceptable cuando la cosa rota no importa.

Moverse rápido puede ser el espíritu de los chismes tecnológicos, pero no es forma de ejecutar la ley, la política social o los sumergibles cuando la gente actual puede morir.