エイリアンたちの地球への“移住”が秘密裏に進められるようになってから30年。ニューヨークには、人間の姿に身を包んだ数多くのエイリアンたちが生息していた。ある時、ニューヨーク市警のジェームズ(ウィル・スミス)は、ある事件の犯人を追跡中、奇妙な出来事に遭遇する。彼の目の前で犯人が持っていた銃が消滅し、犯人が2枚のまぶたで瞬いたのだ。
混乱するジェームズの前に、黒いスーツ姿の男・K(トミー・リー・ジョーンズ)が現れた。Kは誰も信じようとしなかったジェームズの話を聞くと、彼を連れてある質屋へ。そして質屋の店主に向かって突然発砲! あ然とするジェームズの前で、店主は即復活して“本性”を現し、Kに言われるままエイリアン用の銃を隠していた戸棚を開いた…。Kは地球上に住んでいるエイリアンを監視する機関「メン・イン・ブラック=MIB」の、エージェントだったのだ。犯人の使用した銃を特定したKは、この事件にまつわるジェームズの記憶を抹消した上で、ジェームズに1枚の名刺を手渡し、姿を消した。
翌日。名刺に書かれていた住所に向かったジェームズは、同じく招かれていた軍人たちとともに、「MIB」の採用試験を受けることに。採用を担当したZ(リップ・トーン)によれば、そこはエイリアン専門の「移民局」的役割を果たす政府の最高機密機関。持ち前の冷静さと判断力で試験をパスしたジェームズは、過去を捨ててMIBの一員として働くことを決意。彼にまつわるすべてのデータはKの手で消去され、新しい名前「J」が与えられた。
同じ頃。地上に墜落したUFOに乗っていたエイリアンが、墜落現場の農場に住むエドガー(ヴィンセント・ドノフリオ)の姿を借りて、NYに潜り込んでいた。彼がバグ(害虫)と呼ばれる宇宙で最も凶悪なエイリアンの一味だと知ったKとJは早速捜査を開始。エドガーが宝石商のローゼンバーグ(マイク・ナスバウム)を襲ったと知り、その遺体の確認に向かう。
検死を担当したローレル(リンダ・フィオレンティーノ)は、遺体が人間のものではないことに気付き、戸惑いを隠せずにいた。彼女はそこに現れたKとJに説明を求めるが、そんな彼らの目の前で、殺されたローゼンバーグの頭部が突然開き、中から小型のエイリアンが現れた! アルキリアン帝国の王子を名乗る彼は、戦争を回避するためには、“オリオンのベルト”にある“銀河系”が鍵を握っていると言い残して息絶える。KはMIBの本部に戻ってそれを報告するが、オリオン座には銀河系はないとZは取り合おうとしない。しかし、エイリアンたちが次々と地球から逃げ出そうとする動きが続いている最中に、アルキリアンから“銀河系”の返還を求めるメッセージが届いたのだ。
宇宙外交専門家のフランクから、バグが狙う“銀河系”とは、ローゼンバーグが持っていた原子エネルギー資源であるガラス玉だと聞かされたKとJ。“オリオン”がローゼンバーグの飼っていた猫の名前だと気付いたJは、Kとともにローレルの元へ向かう。しかし、2人の目の前で、ローレルと“銀河系”がエドガーの手に落ちてしまった!
エドガーは自分の星に帰るために、かつて飛来したUFOを隠すために作られたニューヨーク万博跡地のツインタワーへ。アルキリアンからの総攻撃のタイムリミットが近づく中、JとKも彼の後を追うのだが…。2人はエドガーから“銀河系”を奪い返し、地球を守ることができるのか!?