Pourquoi les entreprises technologiques ont besoin d’étudiants en sciences humaines et d’ingénieurs

Si vous vous promenez dans les couloirs de la plupart des entreprises technologiques du monde, vous trouverez également un grand nombre d’ingénieurs, de doctorats et de nombreux étudiants en MBA, mais les sciences humaines ont tendance à être sous-représentées. En Inde, si vous cherchez à obtenir un financement pour votre startup, avoir un IIT et un IIM grad améliore vos chances, mais un fondateur avec « juste » un BA est plus un obstacle.

Mais ce n’est pas seulement une diatribe d’un étudiant en sciences humaines qui cherche à créer des emplois. En étudiant les sciences sociales et la politique, vous obtenez une meilleure compréhension du comportement humain et des systèmes complexes, et c’est exactement ce genre de compréhension que nos technocrates ont besoin de s’imprégner. Ce n’était pas le cas au début de la Silicon Valley, où ses problèmes et ses solutions semblaient autonomes. Aujourd’hui, cependant, de petites décisions d’une entreprise comme Facebook peuvent modifier le cours des élections, et comme les plus grandes entreprises s’efforcent de créer des intelligences artificielles omniprésentes, il existe un risque réel de créer des machines fanatiques.

Google a dû s’excuser pour son IA étiquetant les Noirs sur les photos comme des gorilles, et tout récemment, il a été découvert qu’un distributeur de savon ne fonctionnait pas avec la peau noire, car celui qui l’a conçu n’a jamais pensé à le tester suffisamment à fond avec différents tons de peau.

Plus près de nous, nous le voyons dans le déploiement d’Aadhaar en Inde. Bien qu’il existe des arguments en faveur du système, tels que la réduction des déchets, la rationalisation des processus et la simplification de la vie, on a beaucoup parlé du potentiel d’abus, sans parler des erreurs flagrantes dans la base de données, et de la hâte avec laquelle les banques, les sociétés de télécommunications et d’autres insistent sur ce point, cela va au-delà de l’inconvenance.

« Bougez vite et cassez les choses » a du sens en tant que devise lorsque vous êtes une plate-forme permettant aux gens de partager ce qu’ils ont mangé au petit-déjeuner. Avec des réseaux massifs et omniprésents, cela ne fonctionne tout simplement pas comme ça.

Lors d’une récente conférence de presse, un scientifique très expérimenté parlait du potentiel de l’exploitation minière des astéroïdes. Dans la conversation, il a admis : “Je ne sais pas si c’est réellement légal, si quelqu’un y a pensé, qui en a les droits. Mais la science avance si vite, il vaut mieux y arriver en premier, puis laissez les avocats rattraper leur retard. Une ligne tout droit sortie du modèle économique d’Uber.

Nous voyons des choses similaires se produire dans deux domaines majeurs de l’informatique. Le premier est l’intelligence artificielle, où nous nous précipitons pour construire des intelligences générales, alors même que la liste des opposants s’allonge, avec des noms de plus en plus importants, tels que Elon Musk, Stephen Hawking et d’autres.

Entre-temps, la hausse spectaculaire de la valeur du Bitcoin suscite également un intérêt considérable, mais les coûts énergétiques et environnementaux de cette technologie ont longtemps été négligés. Comme le montre un rapport récent, une seule transaction Bitcoin utilise désormais plus d’énergie qu’un ménage aux États-Unis n’en consomme en une semaine. Les mineurs de Bitcoin pourraient utiliser autant d’énergie en une seule journée que tout le pays du Nigeria en utilise en un an.

Récemment, le comédien et acteur Kumail Nanjiani (Silicon Valley) a souligné certains de ces problèmes sur Twitter, l’écriture:

Je sais qu’il y a beaucoup de choses effrayantes dans le monde [right now], mais c’est une chose à laquelle j’ai pensé et que je ne peux pas sortir de ma tête. En tant que membre de la distribution dans une émission sur la technologie, notre travail consiste à visiter des entreprises/conférences technologiques, etc. Nous rencontrons [people] désireux de montrer de nouvelles technologies. Souvent, nous verrons une technologie effrayante. Je ne parle pas d’armes, etc., je veux dire altération de vidéo, technologie qui viole la vie privée, trucs avec des problèmes éthiques évidents. Et nous leur ferons part de nos préoccupations. Nous réalisons que ZÉRO considération semble être accordée aux implications éthiques de la technologie. Ils n’ont même pas de réponse répétée. Ils sont choqués d’être interrogés. Ce qui signifie que personne ne pose ces questions. “Nous ne le faisons pas pour cette raison, mais la façon dont les gens choisissent de l’utiliser n’est pas de notre faute. Des garanties vont se développer.” Mais la technologie évolue si vite. Qu’il n’y a aucun moyen pour l’humanité ou les lois de suivre. Nous ne savons même pas comment traiter les menaces de mort ouvertes en ligne. Seulement « pouvons-nous faire ça ? » Jamais “devrions-nous faire cela? Nous avons vu cette même attitude blasée dans la façon dont Twitter ou Facebook traitent [with] abus/fake news. ech a la capacité de nous détruire. Nous voyons l’effet négatif des médias sociaux [and] aucune considération éthique n’entre dans [development] de la technologie. Vous ne pouvez pas remettre ce truc dans la boîte. Une fois qu’il est là-bas, il est là-bas. Et il n’y a pas de tuteurs. C’est terrifiant. La fin.

C’est une ligne de pensée très raisonnable, et qui fait également écho à certaines des questions que nous avons posées aux entreprises technologiques au fil des ans. Le plus souvent, la réponse à la question se résume à : « Je pensais que c’était une bonne idée et certains VC étaient prêts à payer pour cela. » Compte tenu de l’ampleur de l’impact des entreprises technologiques aujourd’hui, elles doivent avoir une meilleure réponse en place avant de commettre des erreurs dont nous ne pouvons pas nous remettre. La technologie a besoin de plus de diversité, pas seulement de race et de sexe – mais de modes de pensée – si cela doit se produire.