لم يتحسم اليهود للصهيونية عند بداية ظهورها، فقد جاءت المعارضة الكبرى من تيارين: تيار اليهود المتدينين من جهة وتيار اليهود العلمانيين والليبراليين من جهة أخرى.
تركز المعارضة اليهودية المتدينة على ثلاث حجج
1) الصهيونية هي نوع من المسيحانية المزيفة (أو حتى العلمانية)، فهي تدعي أن "نهاية الزمان" للعهد المسيحاني قد اقترب. أي قرب مجيء المسيح ونهاية العالم حسب اليهودية الحاخامية التقليدية سيعود اليهود إلى الوطن فقط عندما تقترب الأوقات المسيحانية. وبالمقابل أصر الحاخاميون على أن النهاية لم توشك بعد.
2) الصهيونية في تقليدها للقومية الأوروبية الحديثة، تعزّز الذوبان والفقدان الجماعي للهوية الدينية. فاليهودية كانت وستظلّ، بشكل أساسي، ممارسة دينية.
3) إذا كان لا بد من وجود أي كيان يهودي مستقل فيجب أن يحكمه القانون التوراتي، وليس القانون المدني الحديث.
خلقت هذه المعارضة الدينية جبهة دينية واسعة ضد الصهيونية عبر أوروبا، ويمكن أن نجد بقايا هذه الجبهة إلى الآن في أحياء الأرثوذكس المتطرفين في القدس.
وارتكزت المعارضة اليهودية العلمانية والليبرالية على ثلاث حجج
أ) اليهودية هي هوية دينية وحضارية وتاريخية ولكنها ليست هوية قومية. فقد خاف العديد من اليهود العلمانيين المعارضين للصهيونية من أن الصهيونية قد تشكل خطراً على تعايشهم في بلاد إقامتهم؛ كونها تعزز الفكرة بأن اليهود غرباء في بلادهم وأنه يجب أن يهاجروا إلى "صهيون".
ب) أصرّت هذه المعارضة على أن اليهود ينتمون إلى البلاد التي يعيشون فيها، وأنهم يجب أن يندمجوا مع سكانها. فاليهودي الإنجليزي أو الفرنسي هو إنجليزي أو فرنسي مثله مثل أبناء وطنه المسيحيين والمسلمين.
ت) حسب هذه المعارضة للصهيونية يجب مناهضة اللاسامية ومنعها من التحكم في حياة اليهود وخياراتهم في الشتات.
بقيت معارضة الصهيونية من قبل الأرثوذكسية المتدينة والليبرالية والعلمانية قوية حتى الحرب العالمية الثانية.
واستغلت المحرقة التي حدثت في أوروبا (1941-1945) ضد المعارضين وذلك عندما مات العديد من اليهود المعادين للصهيونية، من متدينين وعلمانيين، في معسكرات الإبادة. أما بقية اليهود أولئك الناجون منهم وأولئك الذين عاشوا خارج أوروبا فقد صُعِقوا حتى الصمت. واستغلت المحرقة، والتي كانت نتيجة قرون من اللاسامية، أكثر من غيرها على إقناع اليهود وغير اليهود لقبول المنطق الذي تتحدث به الصهيونية. فقد أثبتت أن الصهيونيين كانوا محقين أو حتى متنبئين بأن اليهود لن يتمكنوا من أن يجدوا مكانهم داخل المجتمعات الأوروبية.
واليوم ما زال الانشقاق في العالم اليهودي موجودًا، فقد لوحظ مراراً وتكراراً أن الصهيونية لم تنجح في تحقيق أهدافها.
ملامح الفشل التي تعرضت لها الصهيونية
1. الأغلبية اليهودية ما زالت تعيش في الشتات (والعديد من اليهود الإسرائيليين يهاجرون من إسرائيل أيضاً).
2. لم تجلب الصهيونية الأمان لليهود. فإسرائيل هي من أقل الأماكن أمناً بالنسبة لحياة اليهود.
3. انتشرت اللاسامية اليوم جزئياً بسبب السياسات التي تتبعها دولة إسرائيل؛ مما يجعل الحياة اليهودية غير آمنة أينما كانوا.
4. يقلق الصهيونيون الليبراليون بشكل متزايد بسبب صعوبة تحقيق وجود دولة يهودية تكون أيضًا ديمقراطية، ودولة يهودية تكون أيضًا علمانية.