世界を動かす技術を、日本語で。

学生たちへ

概要

  • Brent A. Yorgey による学生へのメッセージおよび教育哲学のまとめ。
  • ソフトウェア業界やAI技術の現状への批判的な視点。
  • 倫理観・人間性・創造性 を重視した教育姿勢の強調。
  • Hendrix College などで担当した過去および現在の授業一覧。
  • AIやLLM(大規模言語モデル) に対する立場表明。

学生へのメッセージ:未来への備えと倫理

  • 現代のソフトウェア業界 が直面する混乱と倫理的問題への懸念。

    • エントリーレベルの職の減少、知的財産の軽視、コードの質より量・短期利益重視。
    • 技術の利用が人間の注意を奪い、搾取や監視、武器化へと進む現状。
    • バイアスを含むデータによる差別の固定化、資源の浪費的利用。
    • 人工知能開発の目的が「知的な奴隷」の創造に偏っている点への疑問。
  • コンピュータ科学 に惹かれた原点として、アイデアの美しさ、創造の喜び、人間関係を深める道具の可能性を挙げる。

  • 学生にも同じ価値観 を持ってほしいという願い。

  • 技術の「不可避性」や「既成事実化」を鵜呑みにしない姿勢の推奨。

  • 自分自身の倫理的・道徳的境界線を明確に持つことの重要性。

  • 「今だけ」として原則を妥協しない覚悟。

  • 深く考える力の涵養、集中できる環境の確保。

  • 他者が「必須」と言う技術や働き方を盲目的に受け入れない判断力。

  • クラフトマンシップ の重視:コードの明確さ・美しさ、ドキュメントの充実。

  • 速さよりも丁寧さを優先する勇気。

  • 利益・生産性よりも人間関係や正義を大切にする姿勢。

  • 恐れではなく 愛による動機付け を最優先とする人生観。

LLM(大規模言語モデル)・AI技術に対する立場

  • LLMやAI技術 の技術的興味は認めつつも、倫理的・社会的観点から使用を拒否。
  • LLMの多くが 人間労働の搾取 や資源の浪費の上に成り立っている点を批判。
  • 技術的に優れていても、人間の幸福に寄与しない用途には懐疑的。
  • Generative AI vegetarian」としての自己認識。
  • Sean Bootsによるエッセイへの賛同、Anthony Moserの考えにも共感。

教育活動・担当授業一覧

  • Hendrix College での担当科目

    • MATH 240: Discrete Mathematics
    • CSCI 365: Functional Programming
    • CSCI 150: Foundations of Computer Science (ラボセクション)
  • 過去の担当科目 (Hendrix College)

    • LBST 150J, LBST 101, CSCI 150, CSCI 151, MATH 240, CSCI 322, CSCI 382, CSCI 360, CSCI 365, CSCI 410 など
  • Williams College での担当科目

    • CS 134, CS 354, CS 136
  • University of Pennsylvania での担当科目

    • The Art of Recursion, CIS 194, CIS 500, CIS 120
  • その他の教育経験

    • Woodrow Wilson Senior High Schoolでの コンピュータサイエンス、AP Computer Science AB、プレカルキュラス の指導
    • ホームスクール生向け 通信教育 など

まとめ:教育者としての姿勢

  • 技術の進歩や業界動向に流されず、本質的な価値観と倫理観を学生に伝える使命感。
  • 人間性・創造性・正義 を軸にした教育と人生観の提唱。
  • 学生が「自分で考え、選択し、愛に基づき行動する」ことを重視する指導方針。

Hackerたちの意見

「深く考える力を育てよう。自分のために、気が散らない空間と時間を作るために何でもやるべきだよ。これって、他の人が重要だとか避けられないって言う技術や働き方を断ることも含まれるかも。今、これを達成するのにすごく苦労してる。今の時代、みんなが注意を奪おうとしてるのは知ってるけど、実際にそれに立ち向かおうとしないと、その程度がどれほどか分からないよ。」

「自分の道徳的・倫理的な境界をあらかじめ意図的に決めておこう。『今だけ』原則を妥協するなんて嘘に妥協しちゃダメだよ。私のイギリスの機械工学の学士課程では、エンジニアリングの倫理に関する必修科目があって、それがずっと頭の片隅に残ってる。確か、ある週にボパールの大惨事をケーススタディとして取り上げたと思うけど、もう16年前だから確信はないな。イギリスでは、コンピュータサイエンスの学科で倫理のモジュールをあまり見たことがない。一般的に必要だと思うんだけど。編集:だから、これはイギリス特有のことかな xD でも、アメリカの皆さんも倫理のモジュールを楽しんでたって聞いて嬉しいよ。」

「アメリカのABET認定のCSコース(ほぼすべてのCSコースかな?)は、コンピュータサイエンスの倫理に関する単位が必須だよ。たくさんのケーススタディをやったのを覚えてる、テラク25も含めて。でも、私たちのコースは倫理や哲学の一般的な基礎もたくさん含まれていて、それがすごく楽しかった。」

「8年前にアメリカでコンピュータ工学の学部にいた時、倫理の授業は必修だったけど、確かCSのカリキュラムにはなかったんだよね。似たようなキャリアに進むのに。記憶が間違ってるかもしれないけど。編集:今はあるみたいだから、私が間違って覚えてたか、追加されたのかも。編集2:倫理の授業は楽しかったな、よくある例をいくつかやったし、基本的な契約交渉みたいなことも。だけど、その時はこれらの問題が現実だとは思ってなかった。影響力のある仕事をするなんて信じられなかったから。仕事を始めてからは変わったけど。」

教えるときにこれらの記事を参考にしてるよ。「私たちは学生に、業界が望まないことを教えるべきだ」、Kevin Ryan、https://dl.acm.org/doi/pdf/10.1145/3377814.3381719 「あなたのソフトウェアが誰かを殺さないと確信していますか?」、Nancy Leveson、https://dspace.mit.edu/handle/1721.1/136281.2

参考までに:私のアメリカのプログラム(バンダービルト、アメリカ南部の裕福な私立大学)では、必修の倫理の授業がありました。確か全てのエンジニアに義務付けられていて、エンジニアの教授が教えていました。結構良い経験でしたよ!時々、厳密な専門倫理よりも一般的な技術倫理に気を取られることもありましたが、それもまた楽しくてタイムリーなトピックです。

90年代は完璧ではなかったけど、オープンソースソフトウェアの台頭で、もっと理想主義的に感じました。人々は倫理についてもう少し考えていました。自分のコンピュータで人々を力づけるための究極の潮流のように感じましたが、その潮流は数年前から引いています。クラウドコンピューティングの影響も少しありますが、今はLLMの影響がもっと大きいです。そして、最近のSVの人たちが付き合っている会社は、ちょっと気持ち悪いですね。

ああ、倫理学って、悪い人を良い人に変える魔法の弾丸みたいなもんだよね。

他の人も言ってるけど、私のコンピュータサイエンスの学位にも必修の倫理の授業があったよ。でも、みんなが注意を払わない一回の倫理の授業で学生の心が変わるなんて、ちょっとおかしいよね。theracについてどれだけ議論しても、誰かが本当にpalantirやraytheonで働くべきか疑問に思うことはないと思う。

自分はほぼ独学でソフトウェア開発をしてた1人のソフトウェアビジネスから、アメリカで看護師として働くようになったんだけど、その変化の大きな動機は、本当に世界を良くする仕事に時間を使いたかったからなんだ。テクノロジーには素晴らしい可能性があるけど、実際の業界は、僕の目には非常に歪んだインセンティブがあって、看護や医療にあるような強い道徳的基盤がないと思う。看護師は広く自分たちを患者の擁護者だと考えていて、自分の声を持てない人々の声になっている。想像できると思うけど、この文化は現代の医療の利益追求とは合ってないけど、それでも看護師たちは善戦してる。仕事に影響があるリアルな戦いが、毎日職場で繰り広げられてるのを見るよ。通常はプロフェッショナルに行われるけど、これは本当に仕事がかかってる戦いなんだ。理想的な世界では、ソフトウェア業界も同じ美徳を育んでいたと思う。ソフトウェアは悪影響を及ぼす能力があるし、悪い医療と同じくらい(あるいはそれ以上に)危険だよね。でも、テクノロジー業界のおかげで、私たちは記録的なスピードでディストピア的な未来に向かって突き進んでいるように見えるし、現代の平等主義的な社会はその移行を乗り越えられないだろうね。

私のコンピュータ工学の学位には「倫理」の授業があったんだけど(実際には「エンジニアリングコミュニケーション」の授業だったけど、卒業のための倫理要件を満たすと考えられてた)。その授業は、メモの書き方や、履歴書の作り方、リクルーターに何を言うべきかを教える内容だった。雇われるために作るものの影響については一言も触れられなかった。防衛請負業者がエンジニアリングビルの1階を占拠してリクルートフェアを開いたとき、行くように勧められた。エンジニアリングの倫理について私が聞いたのは、応用数論(暗号学)の授業で、以前EFFで働いていた教授が教えてくれたときだけだった。彼は話がそれて、ミサイルで目標を打つ方法のような問題が、エンジニアとして私たちを魅了し、引きつけるかもしれないけど、死の道具を作ることに気を取られないようにしようと言っていた。その授業は選択科目で、倫理について一言も聞かずに学位を取得することも十分可能だった。私が学業経験を軽蔑して振り返る理由はいくつもあるけど、これが特に印象に残ってる。

「私はLLMを、どんな形でも、どんな目的でも使わないし、使うつもりもない。LLMは技術的には面白いけど、人間の労働を大規模に搾取して、限られた資源を無駄に使うシステムには参加したくない。多くの人が興奮しているアプリケーションに対して、実際に良いとは思わないし。LLMが技術的にタスクに優れている場合でも、そのタスクに使うことが人間の幸福にプラスになるとは限らない。自分を表現するのに良い方法は、生成AIのベジタリアンって感じかな。詳しい説明やたくさんのリンクは、上のショーン・ブーツのエッセイにあるから、ほぼ100%同意してるよ。」

Hacker Newsで議論の続きを見る