5 listopada 1916 r. został ogłoszony manifest dwóch cesarzy zapowiadający utworzenie Królestwa Polskiego. Proklamacja, choć mało konkretna w treści – wywołała w Warszawie, Krakowie i Lwowie entuzjastyczne pochody. 6 grudnia 1916 r. została utworzona Tymczasowa Rada Stanu, namiastka polskiego rządu. Józef Piłsudski, będący już formalnie poza armią, wszedł w jej skład w połowie grudnia licząc, że przekształci się ona w niezależny rząd Polski z podległym mu wojskiem. Obejmując przewodnictwo Komisji Wojskowej, ogłasza „wyjście z podziemia” Polskiej Organizacji Wojskowej, jednocześnie domaga się przekształcenia Legionów w armię polską, podlegającą wyłącznie władzy polskiej. Gdy generał-gubernator warszawski, gen. płk. Hans Hartwig von Beseler, któremu powierzono tworzenie wojska polskiego, naciska na natychmiastową rekrutację do polskich oddziałów posiłkowych, Piłsudski odpowiada: „najpierw rząd, a potem wojsko”.
Piłsudski uważnie śledzi to, co dzieje się w Europie. Gdy 22 stycznia 1917 r. prezydent Woodrow Wilson w orędziu do Senatu USA oświadczył: że powinna powstać zjednoczona, niepodległa i sama stanowiąca swe prawa Polska, a w marcu wybuchła rewolucja w Rosji, a w kwietniu do wojny przystąpiły Stany Zjednoczone, Piłsudski zaczął powoli myśleć o zerwaniu z mocarstwami centralnymi. Rozumiał jednak, że samo zerwanie nie wystarczy. Aby zerwanie było na tyle spektakularne, by przebiło się do świadomości Polaków oraz rządów i narodów walczącym z Niemcami, Piłsudski zaplanował i wykonał przedsięwzięcie, które zaprowadziło go na półtora roku do więzienia, a żołnierzy Legionów do obozów internowania.
W lipcu 1917 r. kiedy Niemcy zażądali od Legionów powtórnej przysięgi wierności Piłsudski odrzucił żądanie. 2 lipca Piłsudski złożył dymisję z funkcji szefa Komisji Wojskowej TRS. Tego samego dnia w Hotelu Brühla spotkał się z oficerami Legionów.
Wszystkie nasze i niemieckie interesy układają się przeciw sobie. W interesie Niemców leży przede wszystkim pobicie Aliantów, naszym – by Alianci pobili Niemców. Niemcy ogłosili jakąś „niepodległość”, by zjednać sobie naród polski: chcą bym dał żołnierza do armii, dowodzonej przez pana Beselera [...]. Dawno już wydałem rozkaz POW by nie robili rekrutacji do Legionów i teraz do tego wojska [tj. do Polnische Wehrmacht], a tylko do tajnej organizacji. […] Im prędzej przegrają wojnę, tym lepiej. Właściwie Niemcy tę wojnę już przegrały
Gdy nie bacząc na stanowisko Piłsudskiego wyznaczono czas i miejsce przysięgi, ten wezwał żołnierzy do jej nieskładania (kryzys przysięgowy). Niemcy uznali to za przejaw buntu i zareagowali represjami. Legiony zostały rozwiązane. Szeregowych i podoficerów, którzy odmówili złożenia przysięgi internowano w obozie w Szczypiornie pod Kaliszem, a oficerów - w obozie w Beniaminowie pod Zegrzem.
Po odmowie złożenia przysięgi Józef Piłsudski liczył się z zatrzymaniem, tak jak i zatrzymaniem Kazimierza Sosnkowskiego.
Am 05. November 1916 verkündeten beide Kaiser einen Beschluss über die Einrichtung des Königreichs Polen. Diese allgemein gehaltene Proklamation löste in Warschau, Krakau und Lemberg enthusiastische Demonstrationen aus. Am 06. Dezember 1916 entstand der Vorbote der polnischen Regierung, der Provisorische Staatsrat im Königreich Polen. Józef Piłsudski, der sich formell außerhalb der Armee befand, wurde Mitte Dezember Mittglied des Rates, in der Hoffnung, dass daraus eine unabhängige polnische Regierung und eine Armee unter seiner Führung entstehen werden. Piłsudski übernahm die Leitung der Militärkommission, verkündete das Ende des konspirativen Daseins der Polnischen Militärorganisation und forderte die Umwandlung der polnischen Legionen in eine Streitmacht, die ausschließlich der polnischen Regierung untersteht. Als der warschauer Generalgouverneur Generalleutnant Hans Hartwig von Beseler, der für das Entstehen der „polnischen Wehrmacht“ zuständig ist, auf Piłsudski Druck ausübt, eine sofortige Rekrutierung von Soldaten vorzunehmen, antwortet jener: „zuerst kommt die Regierung, dann das Militär“.
Piłsudski beobachtet aufmerksam, was in Europa und in der Welt passiert. Am 22. Januar 1917 spricht sich Präsident Woodrow Wilson im amerikanischen Senat für ein geeinigtes, unabhängiges und selbständiges Polen aus, im März bricht die Revolution in Russland aus, kurz darauf, im April 1917 tritt die USA den Kriegshandlungen bei. Piłsudski denkt langsam daran, sich von den Zentralmächten zu trennen. Um den „Trennungsprozess“ spektakulär zu gestalten und sowohl das Bewusstsein der Polen als auch der Nationen und Regierungen, die gegen Deutsche gekämpft haben, zu erreichen, führte er eine Handlung aus, die ihn für anderthalb Jahr ins Gefängnis und die Soldaten der Polnischen Legionen ins Internierungslager brachte.
Im Juli 1917 verlangten die Deutschen von den Polnischen Legionen einen erneuten Treueeid, den Piłsudski verweigerte. Am 2. Juli legte Piłsudski sein Amt als Leiter der Militärkommission des Provisorischen Staatsrates nieder. Am selben Tag traf er sich mit den Offizieren der Polnischen Legionen im Hotel Brühl.
"Unsere sämtlichen Interessen stehen im Konflikt zu den deutschen Interessen. Im Interesse der Deutschen liegt es, die Alliierten zu besiegen, im unseren Interesse liegt es, dass die Alliierten die Deutschen besiegen. Die Deutschen haben irgendeine „Unabhängigkeit“ verkündet, um das polnische Volk zu versöhnen, sie möchten, dass ich der von Herrn Beseler geführten Armee Soldaten zur Verfügung stelle (…) Ich habe lange her der Polnischen Militärorganisation den Befehl erteilt, keine Rekrutierung für die Legionen und jetzt auch noch für die Polnische Wehrmacht vorzunehmen, es soll nur eine Rekrutierung für geheime Organisationen stattfinden (…) Je schneller sie den Krieg verlieren, desto besser. Genau genommen haben die Deutschen bereits diesen Krieg verloren"
Als ungeachtet dessen Zeit und Ort des Eides genannt wurde, rief Piłsudski seine Soldaten zur Verweigerung auf (sog. Eidkrise). Die Deutschen reagierten auf diesen Ungehorsam mit Repressalien. Die Legionen wurden aufgelöst. Die einfachen Soldaten und Unteroffiziere, die den Eid verweigert haben, internierte man im Lager in Szczypiorno bei Kalisz und die Offiziere im Lager Beniaminów bei Zegrz. Nach der Eidverweigerung rechnete Piłsudski mit seiner Festnahme und mit der Inhaftierung seines Stabschefs Kazimierz Sosnowski.