teacup. [ 掲示板 ] [ 掲示板作成 ] [ 有料掲示板 ] [ ブログ ]

 投稿者
  題名
  内容 入力補助画像・ファイル<IMG> youtubeの<IFRAME>タグが利用可能です。(詳細)
    
 URL
[ ケータイで使う ] [ BBSティッカー ] [ 書込み通知 ]


「AI倫理」から

 投稿者:ルカ  投稿日:2020年 1月22日(水)23時03分46秒
返信・引用 編集済
  AIの責任について、フロリディの情報倫理について書かれているところから引用します。
私はフロリディの著作は読んでいませんが、
ネットで目にするAIに関する意見には、このような背景もあるのかも?と思いました。


「情報圏においては、倫理道徳が無視されているわけではない。むしろそれは情報圏における最大のテーマの一つなのだ。
…フロリディが第四革命以後の世界の新しい倫理思想として主張するのはいかなるものなのだろうか。
…フロリディ論文「情報倫理の本質と範囲」にそって考察しよう。
フロリディの提唱する情報倫理(Information Ethics:以下IEと略記)は、通常の情報倫理とは異なり、
コンピュータ応用の倫理的側面を扱うだけでなく、より広い哲学的内容を持っている。
それは20世紀末から話題を集めている、生命倫理や環境倫理をふまえ、とりわけ環境倫理を拡張した考え方といってよい。」

「さらに、IEには、より微妙な「責任」という問題がからんでいる。フロリディはAIを含めコンピュータ処理を責任という概念と短絡してしまうのだ。
情報圏では、人間だけでなく、「人工行為者(artificial agent)」も、道徳的行為者とみなされる。
ただしそこでは、責任という概念の荒っぽいとらえなおしが行われていることに注意しなければならない。
道徳的責任(responsibility)とは通常、ある行為に対する社会的な規範に基づく評価と結び付けられる。
つまり、行いが規範(ルール)に反していれば、行為者は裁判にかけられるなど、社会的制裁を受ける恐れがあるわけだ。
人間のようにふるまうとはいえ、機械であるAIエージェントを牢屋に入れることはできないので、
人工行為者は当然「責任とは無関係」と位置づけられるだろう。
しかし、フロリディはここで「説明責任/説明義務(accountability)」に着目する。たとえば自動運転のクルマが事故を起こしたとき、
いかなるプログラムが原因で、いかなるデータによって事故が起こったのかを明確にするのが説明責任である。
そこには当然AIエージェントが絡んでくる。そして、説明責任を問える存在物なら、それを道徳的行為者と見なそうというのが、IEなのである。
フロリディのIEにおいては、「道徳的責任を問えなくても、道徳的行為者は存在しうる」のだ。
説明責任が重要なことは確かである。だが、これまではそれは道徳的責任と密接に結びついていた。
両者を切り離し、前者だけをとれるAIエージェントを責任主体と見なすなら、責任という概念はあまりに曖昧になってしまう。
下手をすると、AI活用とともに、無責任行為が横行することにならないか。」


フロリディのIEにおいては、道徳的責任を問えなくても、道徳的行為者は存在しうる、
説明責任と道徳的責任を切り離して、AIエージェントを責任主体としている。という著者の意見はなるほどと思いました。
ここを読みながら思ったのは、AIは「責任をとらなければならない」とは思っていないだろうということです。
それは、責任という言葉の意味がわかっていない、ともいえるのでしょう。
 
 

「AI倫理」を読みました

 投稿者:ルカ  投稿日:2020年 1月15日(水)09時48分13秒
返信・引用 編集済
  分かりやすく書かれていると思いました。印象に残ったところを引用します。


「理論的に言うと深層学習は単なる統計計算を行っているだけだ。人間の脳神経系の動作は、なお未知の部分が大きい。
むしろここで強調すべきは、第三次ブームのAIの出力が論理的な厳密さを持っておらず誤りから逃れられない、という点である。
つまり、必ずしも正確無比で100パーセント信頼できるとは言えないのだ。これは、当初のAIの目的からの大きな逸脱といえるだろう。」

「第一次や第二次ブームのとき実用化の難しかった機械翻訳は現在、かなり広く使用されている。
…だが多くの訳文はどこか不自然で、明らかな語訳も散見される。これは当然のことだろう。
なぜなら、AIが英文テキストの『意味』を正確に理解しているわけではなく、基本的には、膨大な用例から原文と訳文のペアを検索し、
最大頻度の訳文を出力しているにすぎないからだ。つまり統計処理を行って確率の高い訳文を出力しているのである。」

「人間の場合は、…環境条件が流動的な場合、行為の予測がほぼ不可能であることはむしろ普通である。
この不可知性(絶対的な予測不可能性)は、人間にかぎらず、相手が生物の場合には原理的に成立する。
では不可知性はなぜ生じたのか?――生物が自分で自分を作るオートポイエティック(自己―創出的)な存在だからである。
生物は意識するかしないかは別として、自分が所与の環境条件の下でいかなる行為を実行するかの内部ルールを持っている。
内部ルールそのものを自分で作り上げるのだ。」

「AI倫理を語るとき、…生物と機械の境界に着目すれば、AIやロボットの疑似自律性や疑似人格性は完全に否定されてしまう。
だが、AIやロボットが広く利用される社会では、それだけでは十分ではないのだ。
なぜなら予測困難性という性質は『観察する視点(観察者)』に依存して出現するという面もあるからである。
本来、『観察』という行為は、主観的で相対的なものである。
ある人にとって二つの対象が区別できるからといって、別の人にできるとは限らない。とくに設計開発者の側ではなく、
圧倒的に多いユーザの側に注目すれば、AIやロボットを人間から区別することができない場合も少なくないだろう。」

「チューリングが偉い数学者であることは間違いないが、この『テスト』は…テストの実施者つまり観察者次第で、
結果は大きく異なるはずだ。…意地の悪い質問を連発する専門家なら、現在の最先端のAIプログラムを不合格にするなど造作もない。」

「インターネットには膨大な情報が蓄積され、われわれは情報洪水に投げ込まれるといわれている。
AIの使命はそういうビッグデータの自動処理にあると考えられている。だがそれは意味内容が豊かだということなのだろうか。
すでにふれたように、『情報』というものは本来、人間を含む生物にとっての『価値(意味)』に他ならない。
軍事用語としての『情報』は、それが死活を左右する価値を持つことを示唆している。
だが一方、インターネットの中では扇情的で一時的な宣伝用データのみが量産され、
…つまり記号(デジタル信号)と意味内容の豊かさとは比例するとは限らないのだ。
このように『情報』という概念は学問的に明確でなく、AIの倫理面をふくめて大きな混乱を引き起こしている。こうなった経緯はどこにあるのか。
情報についての基礎的な理論は、20世紀半ばに通信工学者クロード・シャノンによって与えられた。
たしかにシャノンの議論は、通信工学的には第一級のものだった…、しかし、それは徹頭徹尾、アルファベット文字や数字、
あるいは音声や画像など『記号の効率的伝送』に関する数学理論であり、それがあらわす意味内容とは無関係なものだったのである。
にもかかわらず、論文が確率理論をもとに抽象的に書かれていたこともあって、
世間一般には意味内容を含む理論だと受け止められてしまった。」

「情報の扱いで最も基本的なのは『情報伝達』である。だが、それは通常、意味内容の伝達であって、
記号の伝達はその必要条件であっても十分条件ではない。
メールで相手にメッセージを送っても、必ずしもこちらの意図が十分伝わるとはかぎらないことは、誰でも知っている。
相手の心は原理的に閉鎖系であり、そこで相手による『意味解釈』がおこなわれるためだ。
一方、コンピューターは開放系だから、コンピューター同士の機械的な情報伝達では、ノイズの影響さえ防げばその懸念はない。
つまり「記号を正しく伝送すれば、情報が相手に正しく伝わる」のであり、そこではシャノンの情報理論ですべてが説明できる。
情報(デジタル信号)の単なる伝送にかぎらず、蓄積でも、プログラムによる処理でも、シャノン情報理論は有効なのだ。」

「だが、もともとコンピュータは、生物とは違って身体的に世界の意味を解釈する存在ではないから、どうしても限界がある。
…コンピューターの中では、情報をあらわす記号が意味と結び付けられていない。これは『記号接地問題』と呼ばれ、
AIの根本的難題として位置づけられている。」



これらの引用は、著者の本を読まれた方にはすでにご存じのことかもしれません(私は「集合知とは何か」しか読んだことなかったです)。

これらのことをのべた後、AI倫理について、レイ・カーツワイルの「ポスト・ヒューマン誕生」、
ニック・ボストロムの「スーパーインテリジェンス―超絶AIと人類の命運」、
ユヴァル・ノア・ハラリの「ホモ・デウス―テクノロジーとサピエンスの未来」、
ルチアーノ・フロリディの「第四の革命―情報圏が現実をつくりかえる」の内容について論じます。
近代の倫理学として功利主義、自由平等主義、自由至上主義、共同体主義にふれながら、
これらを組み合わせる倫理モデルとして、N-LUCが提示されます。
これらは興味深いです。量的にたくさんになってしまうので割愛しますが、プログラムのバグについて書かれている文章だけ下に引用します。

「AI社会では、たくさんの大規模なAIプログラムが相互連携し、ネットワークとしてデータを処理することも多い。
コンピュータのプログラムでは、製品として出荷後もミス(バグ)を根絶できないことは周知の事実である。
仮に第三のケースを除外しても、作動中のAIの出力が正常(第一ケース)か異常(第二ケース)かを適切に判定し、
異常の場合に迅速な改善を施すことは途方もない難事となるだろう。
その責任と重圧はすべて、AI応用システムを稼働させる現場のコンピュータ・エンジニア(SEやプログラマー)の肩にかかってくる。
…さらに、もっとも脅威となるのは、第三のケースである。前述のTayの例もこれに含まれるが、
サイバーテロ犯が自動運転のAIプログラムに無線で信号を送り、交通を混乱させ、大事故をおこすという悪夢はしばしば語られる。
AIプログラムの組み込みにあたって、こういう悪夢に対応策をとる必要性の高さはいうまでもないだろう。」



私見ですが、人間は、思考や計算の結果、出てきた答えの正誤(倫理的な面も含めて)、信頼できるかどうか、を判定します。
おかしいと思ったら、確かめようとする。ある時には、都合の悪い結果でもそれを認める。
あるいは、どんなデータを加えれば、あるいは何を変更すれば正確性が増すか、を考察できる。
それが人間なのだと思います。
コンピュータが論理的に思考(計算)するとするなら、それは数値になったもの、あるいは語になったものを扱っているのでしょう。
センサーで得られる数値は人間の感覚より正確かも知れないけれど、
コンピュータのデータとなった時点で、一種抽象的なものになっているように感じる、
というよりコンピュータの計算が抽象的なものだと感じているのでしょうが。
語にしても、辞書に載っている意味だけでは、
それを単語ひとつひとつに当てはめて組み合わせるだけでは、実際の文を翻訳することは困難でしょう。
膨大な文を集めて統計的に処理すると、出てくる文の誤りがどんどん少なくなるのでしょうけれど、
やはり抽象的なものなのだろうと感じます。
これはシャノンの情報理論のところで述べられていたことなのでしょう。

何を指して抽象的だと感じるのでしょうか。
人間が熟考する場合など、欲しい答えを得るために、これとこれとこれのデータが必要だと思って研究・分析しますけれど、
それで思った結果が出なければ、どんなデータが必要かを考えたり、それを得る方法を考え出したりします。
また、定義をし直すこともあるでしょう。
それが具体的な世界に生きているということだと思うのです。
何が欲しいかを理解していて、結果が信頼できるものかが判定でき、欲しい結果が得られなかったときに
どんなデータがさらに必要でそれをどう得るか、あるいは不要だったか、どんな修正をすればよいかを考えることができる。
それが現実の世界に住んでいるということではないかと思うのです。

人間の発話は、誰がしたものか、どんな状況でしたのか、何のためにしたものか、で受け取り方が違ってくるでしょう。
そこには具体性があります。
人間の会話で面白いと思うのは、発言が字面では間違っていたり、意味が取れなかったりしても、
文脈から推察できたり、その人の感情が分かると推測できる場合があるだろうということです。
逆に、コンピュータの場合に、文脈(状況)が理解できなかったり、感情がなかったりすると、そういう発話・理解は困難だと思うのです。
「人間とは何者なのか?」と素人ながら考えさせられてます。
 

Fitに期待しつつ

 投稿者:ルカ  投稿日:2019年12月 7日(土)11時25分0秒
返信・引用
  カローラスポーツのGRスポーツ版が、欧州で出るそうですね。

カローラセダンを見て、後席はちょっと狭いのかな?と思いながら、そのうちレビンなんか出るのか、
その時はGRスポーツかな、でもGRスポーツならエンジンには手は入らない?
それならレビンかな、とか思ってました(86との関係もあるでしょう)。
レビンでなくても、GTグレードの追加とかあったりして?
なんか20世紀的な発想ですが…。

新型フィットはRSが出てないですね。
期待してます。
 

またAIなど

 投稿者:ルカ  投稿日:2019年11月 3日(日)01時01分4秒
返信・引用
  栗原 聡著「AI兵器と未来社会 キラーロボットの正体」を読みました。

序章~1章で人工知能の基礎について解説され、2章で意識、3章で知能について書かれて、
5章で「キラーロボットの開発の現状」について語られています。
多くの内容にふれられており、AIの専門家でもない私が要約するのは難しいので、
感想的なことを書いてみます(勘違いもあると思います)。

本書は、簡潔でな文章で人工知能についてわかりやすく書かれていると思いますが、腑に落ちない点があります。
それは、意志や知能、意識などのことばの受け止め方の違いによるのだと思います。

第3章で、「創発」について語られています。
ボトムアップ型のシステムの設計で、個々のパーツは自ら動いたり、他のパーツとくっついたりできる能力を持つだけだが、
パーツを設計すると、その後はパーツ同士の相互作用や自己組織化により、勝手にまとまりながら新たな能力を生み出していく。
設計するのが細胞レベルなら、細胞同士が結合することで臓器を構成し、これら臓器が結合することで人体という全体を構成し、
文明を築き上げる高い知能を創発させる。
そして創発の例として蟻と蛍が挙げられています。

蟻が群れると、個々の蟻よりはるかに高い「群知能」とよばれる知能を発揮することができる。
蟻の行列の場合、巣穴と餌の間はほぼ最短距離になるが、当の蟻たちはしゃべるなどして協力することもなく、
勝手に動き回っているだけで群れとして組織的な行動になっており、最短な行列を形成することができる。
人であれば常識やモラル、社会規範や法律などに従って動くが、
蟻にはそれらより厳格なルールがあり、それはフェロモンを地面に付けながら歩くということである。

重要なポイントは、個々の蟻は最短経路を形成しようとして行動していない点で、最短経路は個々の蟻の行動の総体として「創発」される。
蟻の群れが最短経路という知性を生み出す構図と、
個々の神経細胞の群れが脳という臓器を構成し、人の高い知能を生み出す構図は同じである、とされています。

しかし、蟻は群れ全体から、群れを超えた一つの意思を生み出しているわけではありませんし、
臓器は幾種類かの細胞で構成されており、細胞同士で連絡をとっているのではないでしょうか。

蛍の群知能では、
何万匹の蛍が一本の木にとまりタイミングを合わせて全個体が点滅をくりかえすそうですが、
これは本能なのではないでしょうか、知能なら個体差がありそうな気がします。
 

Re: 昌さんが言ってた

 投稿者:昌@VTR  投稿日:2019年11月 1日(金)00時00分24秒
返信・引用
  > No.3962[元記事へ]

いけひろさんへのお返事です。

> Takuさんが出てたイベントの記事
> https://www.rock-tune.com/2019/09/26/21874
>
> 随分と、(以下略)

Takuさんから

こちらのBLFのサイトにと
http://www.bikeloveforum.jp/event/1792/
 

新型フィット

 投稿者:ルカ  投稿日:2019年10月24日(木)16時30分19秒
返信・引用
  東京モーターショーで、新型フィット発表されました。

画像からは、親しみやすさと意志の強さのようなものを感じさせる顔だと思いました。
どこか、コンセプトモデルで見たような、そんな印象もあります。

Aピラーが細くなったのは良いですね。
ピラーがフロントフェンダー上に流れ込むようなラインがありますが、
Aピラーの後ろの三角窓が、後ろに行くほど外に広がっているようですね。
実物を見たいです。

ステージに並んでいる画像を見ると、
ワンダーシビックが出た時のような新しさを感じました。
 

昌さんが言ってた

 投稿者:いけひろ  投稿日:2019年 9月27日(金)06時30分48秒
返信・引用
  Takuさんが出てたイベントの記事
https://www.rock-tune.com/2019/09/26/21874

随分と、(以下略)

https://young-machine.com/2019/01/12/22689/

 

続カワサキの噂

 投稿者:いけひろ  投稿日:2019年 9月25日(水)17時11分38秒
返信・引用
  なるほど感は有る

https://young-machine.com/2019/01/12/22689/

 

カワサキがビモータ買収の噂

 投稿者:いけひろ  投稿日:2019年 9月25日(水)13時04分29秒
返信・引用 編集済
  本当かなぁ…

ビモータのプレミアムなブランド性とビモータだから許される奇抜オーライな商品性に
、ポンニチメーカーの信頼性が絶妙に組み合わされれば…
ビモータ流のバイク作りが、親会社からエンジン調達って事で、コスト面でのメリットが出るなら…

有り なのかしらね?

今後のKBなんちゃらしか出ないんだ。

https://www.asphaltandrubber.com/rumors/kawasaki-buys-bimota/

 

Re: フロアパネル?

 投稿者:ルカ  投稿日:2019年 9月25日(水)00時35分41秒
返信・引用 編集済
  > それが先代は、ヴィッツ・ベースでカローラを作ったコトで、
> 評論家筋が「マジか!」ってなった…ってな噂を聞いたのですが、

そんな話だったと思います。
今度のカローラセダンに使われるプラットフォームは、
カローラスポーツ、プリウスとかと共用(?)されるものですね。

カローラセダンのドアは、画像で見ると
締まった感じがカローラスポーツより魅力的に感じます。実物はどうでしょう。
顔も実物を見てみたいです。

> 先日、東海環状道で、MIRAIを見ましたよ!
> 燃料電池の!

名古屋の高速道を走ってて、さすがトヨタのお膝元って、
思ったことありますが、何だったか忘れてしまいました…、MIRAIだったかも~?
おまけにナビ任せなので、何道かもよくわからずに走ってます。


フィットは、大きくなるとしたら1730㎜なら仕方ないかな…、
って思ったんですが、大きくなるんでしょうか?
大きくなるなら、個人的にはトレッドが広がって運動性能が上がることを期待しています。
フィットの全高を低くすることは難しいと思いますので。
 

レンタル掲示板
/274