最新記事

ネット

「ネット言論のダークサイド」を計算機で解析する ── データ分析による報道の技術とその再現性 ──

2016年5月10日（火）22時31分
大野圭一朗


著者の性別の判定

　今回、最終的に検証したい仮説が性別に基づくバイアスなので、著者の性別がわかっていないとどうにもなりません。この問題を解決するために彼らが行ったのは、ある意味とても原始的な作業でした。しかし技術的には高度でないにもかかわらず、この類の作業というのがデータ解析を行うときに最も面倒で時間のかかる作業であるケースも非常に多いです。つまり、一定のエラーを含みながらも必要な結果を得られる程度には正確な、形成されたデータを作るという作業です。

gardians09.jpg

名前から性別を判定するワークフロー （Cytoscape 3.3にて作成）


　今回の具体的な作業は上の図のようになります。まず12,000人の著者名を、無償で公開されている男女別の人名リストと比較するスクリプトを実行します。おそらくここではファーストネームの完全一致による単純な判別を行っていると思われます。これにより、11,098人分のデータが男女別に分類され、1,268人が性別不明として残りました。性別不明になる原因は色々と考えられるのですが、そもそも名前がリストにない場合はわかりませんし、名前の英語表記の揺れなども原因になります。例えば、下のスクリーンショットは今回使われた名前のリストからの抜粋ですが、日本人名の「ケンイチ」という名前は、正しく男性名に分類されていますが、表記がKEN'ICHIであるため、KENICHIという表記との単純一致だと取りこぼしてしまいます。このような名前や住所といったものの表記ゆれは厄介な問題で、バラバラにデータベース化された情報を統合する時に様々な問題を引き起こします。

gardians10.png

names.csv. KENという語で検索をかけた例

　さて、この時点で不明の1,268人分のデータの性別を判定するために、今度は以下の人名判定サービスにPerlスクリプト（この場合は、Perlというプログラミング言語で作業工程を記述した小さなプログラムのことです）で送信します:

・genderize.io: Determine the gender of a first name

　このサービスを利用した後の時点で何名ぐらいが性別不明だったかはわかりませんが、なんとか人力で判定、つまり人名辞典やネット検索で人間が一つ一つ判定するのも不可能ではない程度の量にまで不明の数が減っていたので、残りは実際にそういう作業で仕分けされています。「データサイエンス」という言葉の響きとは対極にあるような作業ですが、現実はこんなものです。

　ともあれ、この作業で一定のエラーは含まれているが、それなりに大きい数の男女別著者リストが得られたので、そのファイル(CSV)をAWSのS3というストレージサービスにアップロードしました。ここからはAWS上の計算機での作業になります。

今、あなたにオススメ
ニュース速報

ワールド

米軍がホルムズ海峡封鎖へ、イランは交渉に戻る見通し
2026.04.13

ワールド

ロシア・ウクライナ復活祭停戦、発効数時間で双方が違
2026.04.12

ワールド

米イラン協議決裂、核・ホルムズ海峡で溝埋まらず　停
2026.04.12

ワールド

中国、台湾向け観光規制緩和など新措置　野党党首訪中
2026.04.12
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：トランプの大誤算
特集：トランプの大誤算
2026年4月14日号（4/ 7発売）

国民向け演説は「フェイク」の繰り返し。泥沼化するイラン攻撃の出口は見えない

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    新しいアメリカンドリームは「国外移住」...5人に1人が海外を希望する時代
  • 2
    【銘柄】イラン情勢で「任天堂」が急落　不確実な相場で人気の優良株から売られる落とし穴
  • 3
    健康を守るはずのサプリが癌細胞を助ける？ 思いがけない副作用に研究者が警鐘
  • 4
    停戦合意後もレバノン猛攻を続けるイスラエル、「国…
  • 5
    【銘柄】イラン情勢で一躍脚光の「NEC」　防衛・宇宙…
  • 6
    中国が恐れる「経済ドミノ」
  • 7
    中国がイラン戦争一時停戦の裏で大笑い...一時停戦に…
  • 8
    「仕事ができる人」になる、ただ1つの条件...「頑張…
  • 9
    古代のパピルスから新たに見つかった「2500年前の文…
  • 10
    米特殊部隊、米空軍兵士救出「大成功」に残る多くの…
  • 1
    米特殊部隊、米空軍兵士救出「大成功」に残る多くの疑問
  • 2
    古代のパピルスから新たに見つかった「2500年前の文章」...歴史を塗り替えかねない、その内容とは？
  • 3
    バリ島沖の要衝で「中国製水中ドローン」が回収される...潜水艦の重要ルートで一体何をしていた？
  • 4
    韓国､生理用品無償支給を7月から開始　靴の中敷きで…
  • 5
    「南東部と東部の前線で480平方キロ奪還」とウクライ…
  • 6
    「地獄を見る」のは米国か──イラン地上侵攻なら革命…
  • 7
    撃墜された米国機から財布やID回収か、イラン側が拡…
  • 8
    停戦合意後もレバノン猛攻を続けるイスラエル、「国…
  • 9
    ポケモンで遊ぶと脳に「専用の領域」ができる？　ポ…
  • 10
    中国がイラン戦争一時停戦の裏で大笑い...一時停戦に…
  • 1
    温暖化で増えた？　サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    米特殊部隊、米空軍兵士救出「大成功」に残る多くの疑問
  • 3
    「根底にあるのは怒り」...日本の「3Dプリンター住宅」企業が救う、ウクライナの未来
  • 4
    古代のパピルスから新たに見つかった「2500年前の文…
  • 5
    「ノーと言えるスペイン」の背景に国防意識...次期ス…
  • 6
    バリ島沖の要衝で「中国製水中ドローン」が回収され…
  • 7
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
  • 8
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 9
    メーガン妃、娘リリベット王女との「お手伝い姿」公…
  • 10
    第6回大会を終えて曲がり角に来たWBC
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中