ב-29 באוגוסט 1897 נפתח בבאזל הקונגרס הציוני הראשון בהשתתפות כמאתים צירים. הקונגרס הפך להצלחה מסחררת לאחר שהוחלט בו על הקמת ההסתדרות הציונית, המוסד שאמור היה להקים את מדינת היהודים. נקבעו המוסדות שיביאו להקמת ההסתדרות הציונית, הוחלט על בחירת הרצל לנשיא ההסתדרות הציונית,תפקיד שכיהן בו כל חיין.הוחלט על הקמת מוסדות קבועים, בהם הקונגרס שיכונס בקביעות כל שנה וציריו יבחרו באורח דמוקרטי, על עריכת מגבית שנתית בין חברי ההסתדרות הציונית שתעזור למימון פעילות הקונגרס, ועל קבלת פרוגרמת באזל שיעדיה הם "הקמת בית-מולדת לעם היהודי בארץ-ישראל על פי משפט העמים".
בין השנים 1897 - 1904 עד מותו של הרצל התכנסו ששה קונגרסים ציוניים שבהם עוצב הארגון, הוקמו מוסדות נוספים ובהם קרן קיימת לישראל, והתגבש למעשה פרלמנט יהודי דמוקרטי. בשנים הללו עסק הרצל בעיקר בפעילות דפלומטית שמטרתה הקמת מדינה ליהודים. את עיקר פעילותו הוא ביסס על שכנוע ראשי האמפריה העות'מאנית בתוכניתו לקונסולידציה של חובות האימפריה, באמצעות גיוס הון של כסף יהודי תמורת קבלת צ'רטר על ארץ ישראל.
כדי לשכנע את הטורקים, קיים הרצל פעילות דפלומטית ענפה, אשר בה הוא ניסה לשכנע את המעצמות - גרמניה, אוסטרו הונגריה ובריטניה בטיב תוכניתו. הוא ביקש באמצעות המעצמות ללחוץ על האימפריה העות'מאנית לקבל את תוכניתו. בסופו של דבר הוא לא הצליח בתוכניתו להקים את מדינת היהודים בארץ-ישראל. העות'מאנים דחו את תכניותיו ולא הסכימו להעניק להסתדרות הציונית צ'רטר בארץ-ישראל. עם זאת, הצליח הרצל להביא לידי כך, שההסתדרות הציונית קבלה הכרה כגוף המייצג את העם היהודי. הכרה פוליטית זאת, הביאה בסופו של דבר גם את ההכרה בשאפותיה המדיניות של הציונות. בשנת 1902 הגיע הרצל למסקנה כי המשא ומתן עם האמפריה העות'מאנית נכשל ומאחר והוא חשש להתפרקות ההסתדרות הציונית ולמפעל שהקים, הוא החליט לחפש אלטרנטיבות למדינת היהודים. כך ניהל משא ומתן עם בריטניה על שטחים בקפריסין ובאל עריש שבהם תקום מדינת היהודים. משאלה לא באו בחשבון הוא קיבל את הצעתו של שר המושבות הבריטי הלורד צ'מברלין להקמת אזור שבו תוכל לקום בסופו של דבר מדינה ליהודים שתשתרע בשטחי אוגנדה וקניה. הרצל ראה הצעה זו כהזדמנות פז שאין להחמיצה, שבה מציעה הגדולה במעצמות תבל שטחים למדינה ליהודים, בשעה שקיימת אנטישמיות, שבאה לידי ביטוי בפרעות קישינב. הוא הציג את התונית לקונגרס הציוני השישי, ולאחר דיון שלווה בהפרעות קשות מצד אופוזיציה שהורכבה בעיקר מצירים שהגיעו ממזרח אירופה, התקבלה תוכניתו של הרצל לשלוח משלחת לאוגנדה כדי שתדווח האם ההצעה הבריטית הינה הגיונית.
לאחר הקונגרס חל בהסתדרות הציונית משבר קשה. הציונים מרוסיה, שהיוו את הגוש העיקרי של חברי ההסתדרות הציונית העמידו בפני הרצל דרישה להסיר את תוכנית אוגנדה מסדר היום הציבורי. הרצל לא הסכים לכך, ואולם בוועידה שהתקיימה באפריל 1904 שבה השתתפו ראשי התנועה הציונית, נשבע הרצל שוב בירושלים ובציון. מספר חודשים אחר כך הוא לקה בדלקת ראות ומת ביולי 1904. בשנת 1949 הועלו עצמותיו לארץ ונטמנו בהר הרצל בירושלים.
חזונו ופעילותו העיקשת והבלתי נילאת הם שסללו את הדרך להצהרת בלפור והקמת מדינת היהודים בנובמבר 1948.