Sachverhalt:
1.
1.1 X.___, geboren 1952, arbeitete vom 1. Oktober 2003 bis zum 31. Juli 2005 bei der Firma Y.___ als Hauswart (Urk. 8/11/2). In der Folge meldete er sich bei der Arbeitslosenversicherung zum Leistungsbezug an und bezog bei einer Vermittlungsfähigkeit von 100 % bis April 2006 Taggelder (Urk. 8/15). Vom 1. März bis 30. April 2006 war er im Rahmen einer befristeten Tätigkeit als Betriebsmitarbeiter im Electrorecycling Z.___, einem Beschäftigungsprogramm der Stadt Z.___, tätig (Urk. 8/2). Wegen diversen gesundheitlichen Beeinträchtigungen meldete er sich am 7. Januar 2008 bei der Invalidenversicherung zum Rentenbezug an (Urk. 8/3). Die Sozialversicherungsanstalt des Kantons Zürich, IV-Stelle, erkundigte sich bei der Arbeitslosenkasse des Kantons Zürich nach den von ihr erbrachten Leistungen (Urk. 8/15). Ausserdem holte sie den Arbeitgeberbericht der Firma Y.___ vom 17. Januar 2008 (Urk. 8/11) sowie die Arztberichte von Dr. med. A.___, Facharzt FMH für Psychiatrie und Psychotherapie, vom 25. Januar 2008 (Urk. 8/13) und von Dr. med. B.___, Facharzt Allgemeinmedizin FMH, vom 24. Januar 2008 (Urk. 8/14/1-7) ein. Sodann liess sie das psychiatrische Gutachten von Dr. med. C.___, FMH Psychiatrie und Psychotherapie, vom 10. Juli 2008 erstellen (Urk. 8/24/2-10). Mit Vorbescheid vom 6. August 2008 teilte die IV-Stelle X.___ mit, es stehe ihm keine Invalidenrente zu, da es ihm zumutbar sei, zu 100 % einer behinderungsangepassten Tätigkeit nachzugehen und damit ein rentenausschliessendes Einkommen zu erzielen. Der Invaliditätsgrad betrage lediglich 13 % (Urk. 8/28). Nachdem dagegen seitens des Versicherten keine Einwände erhoben worden waren, wies die IV-Stelle das Leistungsbegehren mit Verfügung vom 29. September 2008 ab (Urk. 8/30).
1.2 Am 27. März 2009 meldete sich X.___ erneut bei der Invalidenversicherung zum Leistungsbezug an (Urk. 8/36). Die IV-Stelle forderte ihn am 31. März 2009 auf, eine Verschlechterung seines Gesundheitszustands mit entsprechenden Beweismitteln zu belegen (Urk. 8/39), worauf Dr. B.___ am 27. April 2009 (Urk. 8/40) und Dr. med. D.___, Psychiatrie und Psychotherapie, am 29. April 2009 (Urk. 8/42) ärztliche Stellungnahmen einreichten. Die IV-Stelle holte die Arztberichte von Dr. B.___ vom Mai 2009 (Urk. 8/44/1-5) und von Dr. A.___ vom 18. Mai 2009 (Urk. 8/45) sowie den Verlaufsbericht von Dr. C.___ vom 22. Dezember 2009 (Urk. 8/57) ein. Mit Vorbescheid vom 8. Juni 2010 teilte sie dem Versicherten mit, dass sein erneutes Rentengesuch abgewiesen werden müsse, da seit der Verfügung vom 29. September 2008 keine wesentlichen Änderungen des Gesundheitszustands hätten festgestellt werden können (Urk. 8/64). Der Versicherte erklärte sich am 14. Juni 2010 mit dem Vorbescheid nicht einverstanden (Urk. 8/66), und mit Schreiben vom 17. Juni 2010 (Urk. 8/65/1-2) bzw. 28. Juni 2010 (Urk. 8/65/3) erhoben Dr. D.___ und Dr. B.___ diverse Einwände. Am 8. September 2010 machte sodann auch der Rechtsvertreter des Versicherten Einwände geltend (Urk. 8/69). Die IV-Stelle hielt jedoch daran fest, dass keine anspruchsbegründende Änderung des Gesundheitszustands eingetreten sei, und wies das Leistungsbegehren mit Verfügung vom 1. November 2010 ab (Urk. 2).
2. Gegen diese Verfügung erhob X.___ durch Rechtsanwalt Georg Engeli am 3. Dezember 2010 Beschwerde mit folgenden Anträgen (Urk. 1 S. 1):
"Die angefochtene Verfügung sei aufzuheben
Hrn. X.___ sei eine ganze Rente zuzusprechen
Hrn. X.___ sei die unentgeltliche Prozessführung und Rechtsvertretung zu genehmigen
Unter Kosten- und Entschädigungsfolge
Es sei mir eine Nachfrist von 30 Tagen zur weiteren Begründung zu gewähren."
Mit Beschwerdeantwort vom 19. Januar 2011 ersuchte die IV-Stelle um Abweisung der Beschwerde (Urk. 7). Mit Verfügung vom 29. März 2011 wurde dem Beschwerdeführer die unentgeltliche Prozessführung gewährt und ihm Rechtsanwalt Engeli als unentgeltlicher Rechtsvertreter für das vorliegende Verfahren bestellt (Urk. 13). Mit Replik vom 23. August 2011 (Urk. 18) bzw. Duplik vom 15. September 2011 (Urk. 21) liessen die Parteien vollumfänglich an ihren jeweiligen Anträgen festhalten.
3. Auf die Vorbringen der Parteien und die eingereichten Akten wird, soweit erforderlich, in den Erwägungen eingegangen.
Das Gericht zieht in Erwägung:
1.
1.1 Invalidität ist die voraussichtlich bleibende oder längere Zeit dauernde ganze oder teilweise Erwerbsunfähigkeit (Art. 8 Abs. 1 des Bundesgesetzes über den Allgemeinen Teil des Sozialversicherungsrechts vom 6. Oktober 2000; ATSG). Die Invalidität kann Folge von Geburtsgebrechen, Krankheit oder Unfall sein (Art. 4 Abs. 1 des Bundesgesetzes über die Invalidenversicherung [IVG]). Erwerbsunfähigkeit ist der durch Beeinträchtigung der körperlichen, geistigen oder psychischen Gesundheit verursachte und nach zumutbarer Behandlung und Eingliederung verbleibende ganze oder teilweise Verlust der Erwerbsmöglichkeiten auf dem in Betracht kommenden ausgeglichenen Arbeitsmarkt (Art. 7 Abs. 1 ATSG). Für die Beurteilung des Vorliegens einer Erwerbsunfähigkeit sind ausschliesslich die Folgen der gesundheitlichen Beeinträchtigung zu berücksichtigen. Eine Erwerbsunfähigkeit liegt zudem nur vor, wenn sie aus objektiver Sicht nicht überwindbar ist (Art. 7 Abs. 2 ATSG in der seit 1. Januar 2008 geltenden Fassung).
1.2 Anspruch auf eine Rente haben gemäss Art. 28 Abs. 1 IVG Versicherte, die:
a. ihre Erwerbsfähigkeit oder die Fähigkeit, sich im Aufgabenbereich zu betätigen, nicht durch zumutbare Eingliederungsmassnahmen wieder herstellen, erhalten oder verbessern können;
b. während eines Jahres ohne wesentlichen Unterbruch durchschnittlich mindestens 40 Prozent arbeitsunfähig (Art. 6 ATSG) gewesen sind; und
c. nach Ablauf dieses Jahres zu mindestens 40 Prozent invalid (Art. 8 ATSG) sind.
Die seit dem 1. Januar 2004 massgeblichen Rentenabstufungen geben bei einem Invaliditätsgrad von mindestens 40 Prozent Anspruch auf eine Viertelsrente, bei einem Invaliditätsgrad von mindestens 50 Prozent Anspruch auf eine halbe Rente, bei einem Invaliditätsgrad von mindestens 60 Prozent Anspruch auf eine Dreiviertelsrente und bei einem Invaliditätsgrad von mindestens 70 Prozent Anspruch auf eine ganze Rente (Art. 28 Abs. 2 IVG; bis 31. Dezember 2007: Art. 28 Abs. 1 IVG).
1.3 Um den Invaliditätsgrad bemessen zu können, ist die Verwaltung (und im Beschwerdefall das Gericht) auf Unterlagen angewiesen, die ärztliche und gegebenenfalls auch andere Fachleute zur Verfügung zu stellen haben. Aufgabe des Arztes oder der Ärztin ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist (BGE 125 V 261 Erw. 4). Im Weiteren sind die ärztlichen Auskünfte eine wichtige Grundlage für die Beurteilung der Frage, welche Arbeitsleistungen der versicherten Person noch zugemutet werden können (BGE 125 V 261 Erw. 4 mit Hinweisen; AHI 2002 S. 70 Erw. 4b/cc).
Das Sozialversicherungsgericht hat den Sachverhalt von Amtes wegen festzustellen und alle Beweismittel objektiv zu prüfen, unabhängig davon, von wem sie stammen, und danach zu entscheiden, ob sie eine zuverlässige Beurteilung des strittigen Leistungsanspruches gestatten. Insbesondere darf es beim Vorliegen einander widersprechender medizinischer Berichte den Prozess nicht erledigen, ohne das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, warum es auf die eine und nicht auf die andere medizinische These abstellt (ZAK 1986 S. 188 Erw. 2a). Hinsichtlich des Beweiswertes eines ärztlichen Gutachtens ist im Lichte dieser Grundsätze entscheidend, ob es für die Beantwortung der gestellten Fragen umfassend ist, auf den erforderlichen allseitigen Untersuchungen beruht, die geklagten Beschwerden berücksichtigt und sich mit diesen sowie dem Verhalten der untersuchten Person auseinander setzt - was vor allem bei psychischen Fehlentwicklungen nötig ist -, in Kenntnis der und gegebenenfalls in Auseinandersetzung mit den Vorakten abgegeben worden ist, ob es in der Darlegung der medizinischen Zustände und Zusammenhänge einleuchtet, ob die Schlussfolgerungen der medizinischen Experten in einer Weise begründet sind, dass die rechtsanwendende Person sie prüfend nachvollziehen kann, ob der Experte oder die Expertin nicht auszuräumende Unsicherheiten und Unklarheiten, welche die Beantwortung der Fragen erschweren oder verunmöglichen, gegebenenfalls deutlich macht (BGE 134 V 231 Erw. 5.1; 125 V 352 Erw. 3a, 122 V 160 Erw. 1c; U. Meyer-Blaser, Die Rechtspflege in der Sozialversicherung, BJM 1989, S. 30 f.; derselbe in H. Fredenhagen, Das ärztliche Gutachten, 3. Aufl. 1994, S. 24 f.).
1.4 Ändert sich der Invaliditätsgrad einer Rentenbezügerin oder eines Rentenbezügers erheblich, so wird die Rente von Amtes wegen oder auf Gesuch hin für die Zukunft entsprechend erhöht, herabgesetzt oder aufgehoben (Art. 17 Abs. 1 ATSG). Anlass zur Rentenrevision gibt jede wesentliche Änderung in den tatsächlichen Verhältnissen, die geeignet ist, den Invaliditätsgrad und damit den Rentenanspruch zu beeinflussen. Insbesondere ist die Rente nicht nur bei einer wesentlichen Änderung des Gesundheitszustandes, sondern auch dann revidierbar, wenn sich die erwerblichen Auswirkungen des an sich gleich gebliebenen Gesundheitszustandes erheblich verändert haben (BGE 130 V 343 Erw. 3.5 S. 349 mit Hinweisen). Dagegen stellt die bloss unterschiedliche Beurteilung der Auswirkungen eines im Wesentlichen unverändert gebliebenen Gesundheitszustandes auf die Arbeitsfähigkeit für sich allein genommen keinen Revisionsgrund im Sinne von Art. 17 Abs. 1 ATSG dar. Zeitliche Vergleichsbasis für die Beurteilung einer anspruchserheblichen Änderung des Invaliditätsgrades bilden die letzte rechtskräftige Verfügung oder der letzte rechtskräftige Einspracheentscheid, welche oder welcher auf einer materiellen Prüfung des Rentenanspruchs mit rechtskonformer Sachverhaltsabklärung, Beweiswürdigung und Invaliditätsbemessung beruht (BGE 133 V 108; vgl. auch BGE 130 V 71 Erw. 3.2.3 S. 75 ff; Urteil des Bundesgerichts in Sachen A. vom 26. März 2010, 9C_438/2009, Erw. 1 mit Hinweisen).
1.5 Wurde eine Rente oder eine Hilflosenentschädigung wegen eines zu geringen Invaliditätsgrades oder wegen fehlender Hilflosigkeit verweigert, so wird nach Art. 87 Abs. 4 der Verordnung über die Invalidenversicherung (IVV) eine neue Anmeldung nur geprüft, wenn die Voraussetzungen gemäss Abs. 3 dieser Bestimmung erfüllt sind. Danach ist im Revisionsgesuch glaubhaft zu machen, dass sich der Grad der Invalidität oder der Hilflosigkeit oder die Höhe des invaliditätsbedingten Betreuungsaufwandes der versicherten Person in einer für den Anspruch erheblichen Weise geändert hat. Tritt die Verwaltung auf die Neuanmeldung ein, so hat sie die Sache materiell abzuklären und sich zu vergewissern, ob die von der versicherten Person glaubhaft gemachte Veränderung des Invaliditätsgrades oder der Hilflosigkeit auch tatsächlich eingetreten ist; sie hat demnach in analoger Weise wie bei einem Revisionsfall nach Art. 17 Abs. 1 ATSG vorzugehen (vgl. dazu BGE 130 V 71; AHI 1999 S. 84 Erw. 1b mit Hinweisen; vgl. auch AHI 2000 S. 309 Erw. 1b mit Hinweisen). Stellt sie fest, dass der Invaliditätsgrad oder die Hilflosigkeit seit Erlass der früheren rechtskräftigen Verfügung keine Veränderung erfahren hat, so weist sie das neue Gesuch ab. Andernfalls hat sie zunächst noch zu prüfen, ob die festgestellte Veränderung genügt, um nunmehr eine anspruchsbegründende Invalidität oder Hilflosigkeit zu bejahen, und hernach zu beschliessen. Im Beschwerdefall obliegt die gleiche materielle Prüfungspflicht auch dem Gericht (BGE 130 V 75 Erw. 3.2.2 und 3.2.3, 117 V 198 Erw. 3a, 109 V 115 Erw. 2b).
2.
2.1
2.1.1 Gemäss dem Arztbericht von Dr. A.___ vom 25. Januar 2008 (Urk 8/13) leidet der Beschwerdeführer unter einer Anpassungsstörung mit Beeinträchtigung anderer Gefühle (ICD-10 F43.23). Ohne Auswirkung auf die Arbeitsfähigkeit bestehe ausserdem eine Schmerzverarbeitungsstörung (allgemeine diffuse Körperschmerzen, besonders im Rücken und an den Knien). In seiner bisherigen Tätigkeit sei der Beschwerdeführer seit dem 25. März 2006 bis auf Weiteres zu 100 % arbeitsunfähig. In behinderungsangepasster Tätigkeit sei er zu 50 % arbeitsfähig. Der Beschwerdeführer sei in E.___ geboren und in normalen Familienverhältnissen aufgewachsen. Er sei mit einer Landsfrau verheiratet, welche krank sei und mit den Kindern in E.___ lebe. Der Beschwerdeführer sei 1981 in die Schweiz gekommen und habe bei verschiedenen Firmen gearbeitet. Eine seit 2006 vorhandene Schmerzstörung habe bis anhin nicht erfolgreich behandelt werden können. Es stelle sich die Frage, ob eine somatoforme Ausweitung oder eine anhaltende somatoforme Schmerzstörung bestehe. Die ständige Verschlimmerung bis hin zur Hilflosigkeit, die ungenügende Bereitschaft des Beschwerdeführers, im Rahmen seiner Möglichkeiten auch zu Hause einen Beitrag zu leisten, und die klare Forderung und Fixierung auf eine Rentenleistung sprächen aber eher für eine Symptomausweitung. Manchmal demonstriere der Beschwerdeführer kognitive Einschränkungen und er wirke bewusst aggraviert. Andererseits bestünden mittlerweile erhebliche psychosoziale, insbesondere familiäre Probleme mit Abhängigkeit von den Institutionen.
2.1.2 Am 18. Mai 2009 (Urk. 8/45) teilte Dr. A.___ der Beschwerdegegnerin mit, dass er keinen aktuellen Bericht abgeben könne, da er den Beschwerdeführer das letzte Mal am 9. Oktober 2008 gesehen habe.
2.2
2.2.1 Laut dem Bericht von Dr. B.___ vom 24. Januar 2008 (Urk. 8/14/1-7) leidet der Beschwerdeführer an einem panvertebralen Syndrom bei schweren degenerativen Veränderungen der gesamten Wirbelsäule und Rückenfehlhaltung, Arthrose an beiden Handgelenken, Sensibilitätsstörung an beiden Unterschenkeln und einer mittelschweren bis schweren Depression. Es habe keine therapeutische Massnahme Erfolg gezeitigt. Die multiplen Beschwerden seien schwer therapieresistent und begünstigten die reaktive Komponente der Depression. Der Beschwerdeführer sei überfordert mit den alltäglichen Verrichtungen, habe sich zurückgezogen, was eine generelle Verunsicherung zur Folge habe, und er könne die Ressourcen nicht regenerieren. Er sei hilflos geworden und völlig abhängig von seiner Familie. Dazu komme die Belastung durch die schwere Krankheit seiner im Ausland lebenden Ehefrau. Der Beschwerdeführer werde auf lange Sicht zu 100 % arbeitsunfähig sein, auch für eine leichte Tätigkeit. Es werde Antrag auf eine 100 % Rente gestellt.
2.2.2 In seiner Stellungnahme vom 27. April 2009 (Urk. 8/40) führte Dr. B.___ aus, der körperliche wie auch psychische Zustand des Beschwerdeführers habe sich seit der letzten IV-Verfügung massiv verschlechtert. Er leide unter diversen chronischen Schmerzen und einer dadurch bedingten Depression und Angstzuständen. Der Beschwerdeführer lebe total isoliert und zurückgezogen. Er leide unter Stimmungsschwankungen, Antriebslosigkeit und Hoffnungslosigkeit. Nach der letzten Rentenablehnung habe er im Projekt G.___ der Koordinationsstelle für Arbeitsprojekte teilgenommen. Die leichte, angepasste Tätigkeit zu 50 % sei wegen der körperlichen und psychischen Beschwerden gescheitert. Der Beschwerdeführer sei nach wie vor zu 100 % arbeitsunfähig, auch für leichte, angepasste Tätigkeiten.
2.2.3 Im Bericht vom Mai 2009 (Urk. 8/44/1-5) hielt Dr. B.___ daran fest, dass der Beschwerdeführer weiterhin zu 100 % arbeitsunfähig sei und er keiner Tätigkeit mehr nachgehen könne.
2.3
2.3.1 Dr. C.___ kam im psychiatrischen Gutachten vom 10. Juli 2008 (Urk. 8/24/2-10) zum Ergebnis, dass der Beschwerdeführer unter seit Jahren zunehmenden Veränderungen des Skeletts, insbesondere im LWS-Bereich, leide und dadurch in seiner Arbeitsfähigkeit eingeschränkt werde. Ohne Auswirkungen auf die Arbeitsfähigkeit bestünden ausserdem ein Status nach Inguinalhernienoperation ca. 2002, Befindlichkeitsstörungen bzw. Symptome aus dem depressiven und psychovegetativen Spektrum mit Beginn infolge der Arbeitslosigkeit, Differentialdiagnose: Anpassungsstörung mit Beeinträchtigung anderer Gefühle (ICD-10 F43.23). In angepasster Tätigkeit sei der Beschwerdeführer zu 100 % arbeitsfähig. Im Rahmen seiner kognitiven Fähigkeiten seien alle Tätigkeiten zumutbar, Einschränkungen gebe es lediglich für rückenbelastende Tätigkeiten. Aus psychischer Sicht seien allenfalls der niedrige Bildungsgrad und die mangelnden Deutschkenntnisse limitierend. Der Beschwerdeführer selbst gebe an, wieder arbeiten zu können, lediglich bei schweren Lasten könne er nicht die notwendigen Leistungen erbringen.
2.3.2 Im Verlaufsgutachten vom 22. Dezember 2009 (Urk. 8/57) hielt Dr. C.___ fest, er habe im Vergleich zur Begutachtung im März 2008 keine wesentliche Änderung feststellen können. Es imponierten die vom Beschwerdeführer gravierend erlebten Störungen im Rahmen seiner andauernden und im Verlauf progredienten Schmerzproblematik. Ein von der Schmerzsymptomatik zu unterscheidendes bzw. vom Grundleiden abzugrenzendes und verselbständigtes psychiatrisches Syndrom liege nicht vor. Verstärkte Auswirkungen auf die Arbeitsfähigkeit hätten sich nicht ergeben.
2.4 Gemäss dem Bericht von Dr. med. F.___, Spezialarzt FMH für Rheumatologie und Physikalische Medizin, vom 9. Oktober 2008 (Urk. 8/44/7-8) leidet der Beschwerdeführer unter einem unklaren multilokalen Schmerzsyndrom bei panvertebralem Syndrom, Polyarthralgie und dringendem Verdacht auf Somatisierung bei Depression sowie einer Depression anamnestisch unter psychiatrischer Therapie. Die ganze Schmerzsymptomatik sei aus somatischer Sicht nicht erklärbar. Es stehe eine psychosomatische Komponente im Vordergrund. Aus rein somatischer Sicht bestehe kein Gebrechen, welches eine Invalidität bedinge. Für eine behinderungsangepasste Tätigkeit sei der Beschwerdeführer zu 100 % arbeitsfähig. In wie weit aus psychiatrischer Sicht eine Arbeitsunfähigkeit bestehe, müsse offen gelassen werden.
2.5 Dr. D.___ führte in seiner Stellungnahme vom 29. April 2009 (Urk. 8/42) aus, es liege beim Beschwerdeführer eine depressive Episode von mindestens mittlerer Schwere vor. Das psychiatrische Syndrom sei hier nicht einfach nur als Begleiteffekt einer Schmerzverarbeitungsstörung zu verstehen, sondern es sei durch seinen Schweregrad zu einem zusätzlich limitierenden Leiden geworden. Nach dem gegenwärtigen Stand resultiere nur noch eine geringe Restarbeitsfähigkeit. Eine Arbeit in der freien Wirtschaft sei dem Beschwerdeführer aus gesundheitlichen Gründen nicht möglich. Sollte die Symptomatik anhalten, so sei dauerhaft eine Arbeitsunfähigkeit von über 50 % zu erwarten. Gegenwärtig liege sie bei 80 % in der bisherigen und bei 75 % in einer behinderungsangepassten Tätigkeit.
3.
3.1 Strittig und zu prüfen ist die Frage, ob sich der Gesundheitszustand des Beschwerdeführers seit der rentenabweisenden Verfügung vom 29. September 2008 (Urk. 8/30) bis zum Erlass der vorliegend angefochtenen Verfügung am 1. November 2010 in anspruchsrelevanter Weise verschlechtert hat.
3.2 Gemäss der Einschätzung von Dr. B.___ ist nach dem 29. September 2008 eine massive Verschlechterung eingetreten. Es ist jedoch zu berücksichtigen, dass sich Dr. B.___ bereits im Bericht vom 24. Januar 2008 dahingehend geäussert hat, dass der Beschwerdeführer auf lange Sicht zu 100 % arbeitsunfähig sei und deshalb Anspruch auf eine ganze Rente habe. Dr. B.___ konnte denn auch im Wesentlichen keine zusätzlichen Diagnosen stellen, sondern hielt einfach fest, dass die Schmerzen des Beschwerdeführers wesentlich zugenommen und sich ausgebreitet hätten. Diese hielt Dr. B.___ aber bereits im Januar 2008 für derart gravierend, dass er dem Beschwerdeführer keine Erwerbstätigkeit mehr als zumutbar erachtete. Es ist jedoch Dr. B.___ nicht gelungen, für die vom Beschwerdeführer geklagten Schmerzen objektive Gründe zu finden. Die von Dr. B.___ veranlassten Röntgenaufnahmen der LWS am 18. März 2009 (Urk. 8/44/6) ergaben zwar einen abklärungswürdigen Befund im ISG rechts, der Verdacht auf einen entzündlichen Prozess konnte jedoch in der Folge mit einem MRI vom 7. Mai 2010 (Urk. 8/61) ausgeschlossen werden. Somit war auf den Röntgenaufnahmen der LWS lediglich eine linkskonvexe Skoliose bei ansonsten fehlenden Zeichen weiterer degenerativen Veränderungen ersichtlich. Zu berücksichtigen ist im Weiteren auch, dass der Rheumatologe Dr. F.___ bei seinen Untersuchungen am 9. Oktober 2008 (Urk. 8/44/7-8) keine somatische Erklärung für die Schmerzsymptomatik des Beschwerdeführers finden konnte. Vielmehr stellte Dr. F.___ eine Inkonsistenz zwischen der klinischen Untersuchung und der spontan durchgeführten Beweglichkeit, z.B. beim An- und Ausziehen oder Drehen auf der Liege fest.
3.3 Was die psychische Beeinträchtigung des Beschwerdeführers anbelangt, so ist festzuhalten, dass die Beschwerdegegnerin bei der Verfügung vom 29. September 2008 gestützt auf die gutachterliche Beurteilung von Dr. C.___ davon ausgegangen ist, dass diesbezüglich keine Einschränkung der Arbeitsfähigkeit besteht. Dr. C.___ hat den Beschwerdeführer erneut untersucht und dabei einen unveränderten Gesundheitszustand ohne verstärkte Auswirkungen auf die Arbeitsfähigkeit festgestellt (Urk. 8/57/4). Bei der Einschätzung von Dr. D.___ handelt es sich mitunter lediglich um eine andere Beurteilung des gleichen Sachverhaltes. Es ist aus seinen Ausführungen auch nicht ersichtlich, inwiefern seit dem 29. September 2008 eine Verschlechterung des psychischen Gesundheitszustands eingetreten sein soll. Wie die Beschwerdegegnerin ausserdem zu Recht geltend macht, stellt die von Dr. D.___ diagnostizierte mittelschwere depressive Episode rechtsprechungsgemäss keine von depressiven Verstimmungszuständen klar unterscheidbare andauernde Depression im Sinne eines verselbständigten Gesundheitsschadens dar, die unabhängig von einer somatoformen Schmerzstörung als erhebliche psychische Komorbidität ausnahmsweise auf die Unzumutbarkeit einer willentlichen Schmerzüberwindung schliessen liesse (vgl. etwa Urteil des Bundesgerichts 9C_749/2010 vom 23. November 2010, E. 4.3, mit Hinweisen). Ebenso ist mit der Beschwerdegegnerin bezüglich der Berichte der behandelnden Ärzte darauf hinzuweisen, dass bei deren Einschätzungen der Arbeitsfähigkeit der Erfahrungstatsache Rechnung zu tragen ist, dass sie mitunter im Hinblick auf ihre auftragsrechtliche Vertrauensstellung in Zweifelsfällen eher zu Gunsten ihrer Patientinnen und Patienten aussagen (BGE 125 V 353 Erw. 3b/cc).
3.4 Insgesamt ergibt sich damit, dass seit dem 29. September 2008 keine wesentliche Verschlechterung des Gesundheitszustandes eingetreten ist. Dem Beschwerdeführer ist es zumutbar, seine Schmerzen zu überwinden und einer behinderungsangepassten Tätigkeit wie z.B. Verpackungsarbeiten, Kleinmontage, Maschinenbedienung oder leichten Betriebsarbeiten zu 100 % nachzugehen.
4.
4.1 Grundsätzlich ist auch beim Einkommensvergleich seit dem 29. September 2008 keine wesentliche Veränderung eingetreten. Wie die Beschwerdegegnerin in der Beschwerdeantwort vom 19. Januar 2011 (Urk. 7) zu Recht ausführt, ist sie jedoch bereits in der Verfügung vom 29. September 2008 zu Unrecht davon ausgegangen, dass der Beschwerdeführer ohne Eintritt des Gesundheitsschadens weiterhin bei der Firma Y.___ tätig wäre, wurde doch dieses Arbeitsverhältnis aus wirtschaftlichen und betriebsorganisatorischen Gründen aufgelöst, wobei der Beschwerdeführer laut den Angaben des Arbeitgebers bis zur Beendigung des Arbeitsverhältnisses am 31. Juli 2005 alle Anforderungen problemlos erfüllen konnte (Urk. 8/11/6). Es ist deshalb übereinstimmend mit der Beschwerdegegnerin stattdessen der Durchschnittslohn für männliche Arbeitnehmer im Wirtschaftszweig "Persönliche Dienstleistungen" im Privaten Sektor im Anforderungsniveau 1 + 2 gemäss Tabelle TA1 Ziffer 93 der Lohnstrukturerhebungen des Bundesamtes für Statistik (LSE) 2008 in der Höhe von Fr. 65'769.60 als Valideneinkommen einzusetzen (vgl. Urk. 7 S. 3).
4.2 Für die Bestimmung des Invalideneinkommens ist primär von der beruflich-erwerblichen Situation auszugehen, in welcher die versicherte Person konkret steht. Ist kein solches tatsächlich erzieltes Erwerbseinkommen gegeben, namentlich weil die versicherte Person nach Eintritt des Gesundheitsschadens keine oder jedenfalls keine ihr an sich zumutbare neue Erwerbstätigkeit aufgenommen hat, so können nach der Rechtsprechung Tabellenlöhne gemäss den vom Bundesamt für Statistik periodisch herausgegebenen Lohnstrukturerhebungen (LSE) herangezogen werden (BGE 126 V 76 f. Erw. 3b/aa und bb, vgl. auch BGE 129 V 475 Erw. 4.2.1). Für die Invaliditätsbemessung wird praxisgemäss auf die standardisierten Bruttolöhne (Tabellengruppe A) abgestellt (BGE 129 V 476 Erw. 4.2.1 mit Hinweis), wobei jeweils vom so genannten Zentralwert (Median) auszugehen ist. Bei der Anwendung der Tabellengruppe A gilt es ausserdem zu berücksichtigen, dass ihr generell eine Arbeitszeit von 40 Wochenstunden zugrunde liegt, welcher Wert etwas tiefer ist als die bis 1998 betriebsübliche durchschnittliche Arbeitszeit von wöchentlich 41,9 Stunden, seit 2008 von 41,6 Stunden (1999-2000 von 41,8 Stunden; 2001-2003 von 41,7 Stunden; 2004-2005 von 41,6 Stunden; 2006-2007 von 41,7 Stunden) (Die Volkswirtschaft 10-2009 S. 90 Tabelle B9.2; BGE 129 V 484 Erw. 4.3.2, 126 V 77 f. Erw. 3b/bb, 124 V 322 Erw. 3b/aa; AHI 2000 S. 81 Erw. 2a).
Wird das Invalideneinkommen auf der Grundlage von statistischen Durchschnittswerten ermittelt, ist der entsprechende Ausgangswert allenfalls zu kürzen. Mit dem sogenannten Leidensabzug wurde ursprünglich berücksichtigt, dass versicherte Personen, welche in ihrer letzten Tätigkeit körperliche Schwerarbeit verrichteten und nach Eintritt des Gesundheitsschadens auch für leichtere Arbeiten nurmehr beschränkt einsatzfähig sind, in der Regel das entsprechende durchschnittliche Lohnniveau gesunder Hilfsarbeiter nicht erreichen. Der ursprünglich nur bei Schwerarbeitern zugelassene Abzug entwickelte sich in der Folge zu einem allgemeinen behinderungsbedingten Abzug, wobei die Rechtsprechung dem Umstand Rechnung trug, dass auch weitere persönliche und berufliche Merkmale der versicherten Person wie Alter, Dauer der Betriebszugehörigkeit, Nationalität oder Aufenthaltskategorie sowie Beschäftigungsgrad Auswirkungen auf die Höhe des Lohnes haben können. Ein Abzug soll aber nicht automatisch, sondern nur dann erfolgen, wenn im Einzelfall Anhaltspunkte dafür bestehen, dass die versicherte Person wegen eines oder mehrerer dieser Merkmale ihre gesundheitlich bedingte (Rest-)Arbeitsfähigkeit auf dem allgemeinen Arbeitsmarkt nur mit unterdurchschnittlichem Einkommen verwerten kann. Bei der Bestimmung der Höhe des Abzuges ist der Einfluss aller in Betracht fallenden Merkmale auf das Invalideneinkommen unter Würdigung der Umstände im Einzelfall gesamthaft zu schätzen und insgesamt auf höchstens 25 % des Tabellenlohnes zu begrenzen (vgl. zum Ganzen BGE 126 V 75). Dabei ist zu beachten, dass allfällige bereits bei der Parallelisierung der Vergleichseinkommen mitverantwortliche invaliditätsfremde Faktoren im Rahmen des sogenannten Leidensabzuges nicht nochmals berücksichtigt werden dürfen (BGE 134 V 322 Erw. 5.2).
4.3 Der Zentralwert für die mit einfachen und repetitiven Aufgaben (Anforderungsniveau 4) beschäftigten Männer betrug im Jahre 2008 im privaten Sektor Fr. 4'806.-- pro Monat bei 40 Arbeitsstunden pro Woche (LSE 2008, Tabelle TA1, S. 26), was unter Berücksichtigung einer betriebsüblichen Arbeitszeit von 41,6 Stunden pro Woche ein hypothetisches Einkommen von monatlich Fr. 4'998.25 bzw. Fr. 59'979.-- pro Jahr (mal 12) ergibt. Den generellen Einschränkungen auch in einer Hilfsarbeitertätigkeit und dem fortgeschrittenen Alter des Beschwerdeführers hat die Beschwerdegegnerin mit einem Abzug von 10 % Rechnung getragen, was als angemessen erscheint. Insbesondere ist darauf hinzuweisen, dass der Beschwerdeführer über gute mündliche Deutschkenntnisse verfügt und aufgrund seiner beruflichen Erfahrung und den absolvierten Weiterbildungen durchaus in der Lage ist, anspruchsvollere Hilfsarbeitertätigkeiten zu verrichten (vgl. Urk. 8/2/1). Das Invalideneinkommen beläuft sich damit auf Fr. 53'981.--. Verglichen mit dem Valideneinkommen von Fr. 65'769.60 ergibt sich eine Einkommenseinbusse von Fr. 11'788.60 bzw. rund 18 %. Der Beschwerdeführer hat damit keinen Anspruch auf eine Invalidenrente, was im Übrigen selbst dann der Fall wäre, wenn beim Invalideneinkommen der maximal mögliche Abzug von 25 % vom Tabellenlohn vorgenommen würde.
5. Zusammenfassend ist die Beschwerdegegnerin demnach zu Recht zum Ergebnis gelangt, dass sich der Gesundheitszustand des Beschwerdeführers und die damit verbundene eingeschränkte Erwerbsfähigkeit seit dem 29. September 2008 nicht wesentlich verschlechtert haben, weshalb die Beschwerde abzuweisen ist.
6.
6.1 Gemäss Art. 69 Abs. 1bis IVG (in der seit dem 1. Juli 2006 gültigen Fassung) ist abweichend von Art. 61 lit. a ATSG das Beschwerdeverfahren bei Streitigkeiten um die Bewilligung oder die Verweigerung von IV-Leistungen vor dem kantonalen Versicherungsgericht kostenpflichtig. Die Kosten werden nach dem Verfahrensaufwand und unabhängig vom Streitwert im Rahmen von 200-1000 Franken festgelegt.
Die Gerichtskosten sind auf Fr. 800.-- festzusetzen und dem Beschwerdeführer aufzuerlegen, zufolge Gewährung der unentgeltlichen Prozessführung jedoch einstweilen auf die Gerichtskasse zu nehmen.
6.2 Ausgangsgemäss ist der unentgeltliche Rechtsvertreter des Beschwerdeführers, Rechtsanwalt Engeli, aus der Gerichtskasse zu entschädigen. Mit Honorarnote vom 3. Februar 2012 hat Rechtsanwalt Engeli einen Aufwand von 6,25 Stunden geltend gemacht (Urk. 23). Dies erscheint als den Umständen des Falles angemessen. Die Entschädigung ist damit wie beantragt auf Fr. 1'350.-- (inkl. Barauslagen und MWSt) festzulegen.
6.3 Kommt der Beschwerdeführer künftig in günstige wirtschaftliche Verhältnisse, so kann ihn das Gericht zur Nachzahlung der Auslagen für die unentgeltliche Rechtspflege verpflichten (§ 16 Abs. 4 des Gesetzes über das Sozialversicherungsgericht [GSVGer]).
Das Gericht erkennt:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt, zufolge Gewährung der unentgeltlichen Prozessführung jedoch einstweilen auf die Gerichtskasse genommen. Der Beschwerdeführer wird auf § 16 Abs. 4 GSVGer hingewiesen.
3. Der unentgeltliche Rechtsvertreter des Beschwerdeführers, Rechtsanwalt Georg Engeli, Winterthur, wird mit Fr. 1'350.-- (inkl. Barauslagen und MWSt) aus der Gerichtskasse entschädigt. Der Beschwerdeführer wird auf § 16 Abs. 4 GSVGer hingewiesen.
4. Zustellung gegen Empfangsschein an:
- Rechtsanwalt Georg Engeli
- Sozialversicherungsanstalt des Kantons Zürich, IV-Stelle
- Bundesamt für Sozialversicherungen
sowie an:
- Gerichtskasse
5. Gegen diesen Entscheid kann innert 30 Tagen seit der Zustellung beim Bundesgericht Beschwerde eingereicht werden (Art. 82 ff. in Verbindung mit Art. 90 ff. des Bundesgesetzes über das Bundesgericht, BGG). Die Frist steht während folgender Zeiten still: vom siebten Tag vor Ostern bis und mit dem siebten Tag nach Ostern, vom 15. Juli bis und mit 15. August sowie vom 18. Dezember bis und mit dem 2. Januar (Art. 46 BGG).
Die Beschwerdeschrift ist dem Bundesgericht, Schweizerhofquai 6, 6004 Luzern, zuzustellen.
Die Beschwerdeschrift hat die Begehren, deren Begründung mit Angabe der Beweismittel und die Unterschrift des Beschwerdeführers oder seines Vertreters zu enthalten; der angefochtene Entscheid sowie die als Beweismittel angerufenen Urkunden sind beizulegen, soweit die Partei sie in Händen hat (Art. 42 BGG).