このポップアップは HTTP-Authentication の一部です。それを取得するには、Webサーバーで有効にする必要があります。ウィキペディアが言うように：
サーバーは、ユーザーエージェントがサーバーに対して自分自身を認証することを望む場合、認証の要求を送信できます。
このリクエストは、WWW-Authenticate HTTPヘッダーを含むHTTP 401 Not Authorized応答コードを使用して送信する必要があります。
基本認証（最も頻繁に使用される）のWWW-Authenticateヘッダーは、次のように構成されます：
WWW-Authenticate: Basicrealm="insert realm"
このタイプのウィンドウは、Webサーバーがリクエストに「無許可」（401）ステータスコードを返すことで応答するとポップアップします。ポップアップをトリガーするには、そのタイプの応答を送信するようサーバーに指示する必要があります。
あなたが話している認証はWebベースのアプリケーションでは基本認証と呼ばれ、ブラウザのポップアップを使用してユーザーの資格情報を取得します。
Java使用しているアプリケーションサーバーはどれですか？
基本認証の詳細については、 this ページを参照してください