システム開発における責任の範囲

Computer Ethics is a branch of practical philosophy which deals with how computing professionals should make decisions regarding professional and social conduct. The term “computer ethics” was first coined by Walter Maner in the mid-1970s, but only since the 1990s has it started being integrated into professional development programs in academic settings. The conceptual foundations of computer ethics are investigated by information ethics, a branch of philosophical ethics established by Luciano Floridi. Computer ethics is a very important topic in computer applications.

via en.wikipedia.org

上記は、もともと Posterous に投稿したネタをそのままもってきただけなので、参考にとどめてください。

Springer のフリーアクセスになってる論文を見ていたら、伊勢田（哲治）さんの論文を見つけて、ついでに色々と見ていました。この分野は、いま自分がシステム開発の末端にいるので、何らかの貢献はできそうな気もするわけですが、逆に科学哲学プロパーとしてはナマってきているので、バランスをとるのが難しい。そのようなわけで、書店ではときどきどんな書籍があるのかを眺めているわけです。しかし、例えば個人情報にまつわる話題を見ていると、まず技術の話としてかなり論者によって理解に開きがあることとか、独立した分野としての方法論みたいなものが見えてこないなどの不満を感じていました。ちなみに、僕はドクターコースで科学哲学を修めたわけですが、別に参照する方法論がハイデガーだったりハーバマスだったりしても全く構いません。個人的にはそういう切り口でシステム開発や ISMS を議論してもらう方が興味深く、逆に生半可な記号論理学やモデル理論あるいは群論を引き合いに出して科学哲学っぽい議論をされる方が困ります。

雑誌のバックナンバーを見ていると、”positive responsibility” というテーマで議論があったことに気づいたので、これも MD で書く話題にしてみようと思いました。簡単に言うと、Gotterbarn さんという研究者が Science and Engineering Ethics という雑誌に発表した論文で展開した話がきっかけです。彼いわく、

Many problems in software development can be traced to a narrow understanding of professional responsibility. The author examines ways in which software developers have tried to avoid accepting responsibility for their work. After cataloguing various types of responsibility avoidance, the author introduces an expanded concept of positive responsibility. It is argued that the adoption of this sense of positive responsibility will reduce many problems in software development.

ソフトウェア開発で起きる問題の多くは、専門職の責任を狭く理解しているところに原因を求められる。そこで、著者はソフトウェア開発者が業務の遂行にあたって責任を回避する手段がどんなものであったかを検討した。その結果、さまざまなタイプの責任回避があることが示され、そして著者は明確な責任という概念を拡張するよう提案する。そして、拡張した明確な責任を受け入れるなら、ソフトウェア開発における多くの問題がなくなるだろうと論じる。（Gotterbarn, 2001）

で、 これは 2001 年に掲載された論文なのですが（初出はもっと早く、草稿を彼のサイトで読めます）、この論文を参照しつつ、昨年（2008）に同じ学会誌へ掲載された論文で、James?A.?Stieb さんが反論を試み、そして Stieb さんに他の何人かが論評を加えています。この流れを見るだけでも、まだ情報倫理の分野は途上の段階なのだなぁと思ってしまいます（もちろん、何であれ学問は全て発展途上だとも言えますが）。

反論としては、まず「明確な責任（positive responsibility）」の範囲を広げすぎると、システム開発者はあらゆる不測の事態に対応するシステムを開発しなくてはならず、開発の費用や工期がどんどん伸びてしまうという現実的な点が指摘されています。そして、この「明確な責任」という概念が、個々の一般利用者が何を「バグ」とか「不具合」だと思っているかという主観に引きずり回されるだけのものとなり、ソフトウェア開発者の権利や義務を明確にして保護するという目的に沿った理論化は整合しなくなるだろうという点も指摘されています。

Apparently, he holds computer professionals responsible for an undisclosed, perhaps unlimited, list of “undesirable events,” including what most people would call “bugs” or “computer errors”

明らかに、彼 (Gotterbarn) はコンピュータの専門職従事者が不測の、そして恐らくは際限のない「好ましからぬ事態」に、責任があるという考えをもっている。（James?A.?Stieb, 2008）

開発者個人の話に限らず、責任の範囲をどこまで引くかという話題は、もちろん開発案件でも SLA という現実の問題として考えなければなりません。そして多くの案件で SLA は、代理店やクライアントから見ると「責任放棄の言い逃れ」と見做される傾向にあり、保証も何もしていない非機能要件についても、何も取り交わしていないがゆえに受託側の責任となりがちです（こういう人たちは委託契約と請負契約の違いも理解しないで、システム開発を発注したり受注してるんでしょうか）。ウェブの開発・構築案件に「発注責任」という概念は存在していません。RFP の不備や仕様漏れは、どんな場合であれ適切に聞き出さなかった受託側のせいとなります。

確かに、システム担当者は「俺はネットワークに責任がない」とか「俺は他のプログラムについては知らない」という責任分界を主張しがちです。僕も、別人が書いたクソッタレなコードを自分の責任で運用するなんてゾッとします。しかしそれは、もともとシステム担当者に要求されている責任が、逆に多すぎるからだと言いたい。社内に（情報）システム部を抱えている多くの会社では、「システム」と名の付く人々は自分の業務を越えた作業を依頼されがちであり、事実上ヘルプデスクの業務を兼任させられている場合も多く、システム担当の人間はそのたびごと頭に来ています。なんで俺が新入社員のアプリケーションをインストールしなきゃいけねーんだよ。それくらいてめーで誰かに聞くなり調べてやってろ、という（ああ、本音がｗ）。まぁシステム部の新入社員には自分でやらせましたけどね。

あるいは、保証とか責任の話になると、開発におけるバグの話だけではなく、ちょっとかじった人は昨今だと SLA を語り出すわけです。しかし、機能要件についても色々とありますが、非機能要件をどこまで満たすかは、正直に言えばその企業の経営方針に大きく依存していて社員が勝手に決められる話ではありません。システム開発やサーバ管理やネットワーク技術者をどれだけ社内に保有したり、社員として保有しないなら、どのていどの予算で外部の会社に委託するか。そういうことはシステム担当者が「きちんと予算を組みましょう」とか「人材を確保してください」などと言っても空しいだけです。しかし、システム担当者には過大な非機能要件がふりかかります。例えば、「お金をかけるのはイヤだが、データセンターで電源が止まってもサーバが止まるなんてありえない」・・・そんなもの、ラックに大量の発電装置でも据えない限り、物理的に不可能な話です。システム担当者が会社で、何日か「ものづくり技術者」らしく不眠不休で、ご利益がありそうな本田宗一郎や松下幸之助や吉田秀雄にでも祈りを捧げていれば、どこからか電気がサーバに流れるようになるんですか。

あーでも、こうやって見直してみると、僕は情報倫理には手を出さない方がいいのかもしれません。会社を辞めてから暫くしないと、いま感じていることを適切に切り離して論じるのが難しいですね・・・いや、実はわざと織り交ぜて書いてはいるのですが（笑。