Merge "Windows SMBFS: Fix image resize errors during volume creation"

Merge "Fix exception parameter name"

Merge "Complete switch to snapshot objects"

Merge "Dell: Added verify cert option for REST calls"

Merge "Don't send heartbeats if Manager reports a problem"

Merge "Multiple pools support enhancement in VNX cinder driver"

Dell: Added verify cert option for REST calls

If one goes through the trouble to create a cert and
install it on the Dell Data Collector and on the cinder
node then we can enable certificate verification on the
request calls to the Dell REST API.

This simply makes dell_sc_verify_cert a cinder.conf option
for a Dell backend and directly uses that as the verify
option on the REST requests.  Default is False.

The update_migrated_volume function arrived via a rebase
and had a merge issue that was fixed.  Specifically the
dell_sc_ssn value is no longer part of the api.find_sc
call.

Spelling error also corrected in a LOG message.

SecImpact

Change-Id: I22348d5e0b55d56f44f1fc4f0c830790a6670494
Implements: blueprint dell-sc-add-verify-cert

Merge "Move Dothill tests out of root test directory"

Merge "Add Pure Storage FibreChannel driver"

Merge "Non-admin user to query volume filter by az"

Merge "Fix remaining memory issues with nfs backup unit tests"

Complete switch to snapshot objects

The following patch switches the remainder of cinder internals
to use snapshot object instead of direct db calls.  Note that
db calls within cinder drivers were not switched over.  This
is left to driver maintainers to do themselves and to
properly test out the changes on their hardware.

Also, note that there are three occurrences of
db.snapshot_update and one of db.snapshot_destroy left in
cinder/volume/manager.py.  This is intentional because
driver.create_cgsnapshot and driver.delete_cgsnapshot returns
a list of snapshot dicts.  Each driver needs to switched over
occurences of db.snapshot_get_all_for_cgsnapshot() to
SnapshotList.get_all_for_cgsnapshot() in create_cgsnapshot
and delete_cgsnapshot.  Once each driver has done so, a follow
up patch can be created to remove db.snapshot_update and
db.snapshot_destroy in cinder/volume/manager.py.  There are
bugs filed for these to be fixed -
https://bugs.launchpad.net/cinder/+bugs?field.tag=
cgsnapshot-objects.

Change-Id: I64004ac404f67eecee51361dc8edd3f149e1b987
Partial-Implements: blueprint cinder-objects

Merge "DriverFilter: don't check volume_backend_name"

DriverFilter: don't check volume_backend_name

Currently DriverFilter checks if host_state.volume_backend_name
matches type.extra_specs.volume_backend_name.  The same check has
already been done in CapabilitiesFilter and done more thoroughly and
gracefully, for example, volume_backend_name can be a set of names
not limited to one to one match.  DriverFilter should just do one
thing, that is evaluating filter_function supplied by backend.

This change removes the volume_backend_name check from DriverFilter
without touching its core function, thus has no impact on existing
documentation because the checking of volume_backend_name is an
undocumented side-effect of this filter.  This change also reduces
one warning log to debug log when no filter_function found in
host_state, for the reason it would generate a lot of warning log
for those backends don't supply filter_function.

UpgradeImpact:
DriverFilter had an undocumented side-effect before it evaluates
filter_function - it checked if volume_backend_name in host_state
reported by backend matches volume_backend_name in volume type
extra specs, and if they don't, the backend would fail to pass
the filter.  Now that this side-effect has been removed, it
would impact users only under following circumstance: 1) user
enabled DriverFilter but not CapabilitiesFilter; 2) user relied
on DriverFilter to filter backends based on exact match of
'volume_backend_name' in type extra spec.  If unfortunately this
is the case for user, enabling CapabilitiesFilter by adding
it to 'scheduler_default_filters' configure option and restart
cinder scheduler service then everything should work just fine.
CapabilitiesFilter actually does a much better job checking
volume_backend_name.

Change-Id: Ie5c48587368856faa538eebb1b6611d464bd69bd
Closes-bug: #1461770

Merge "Changes in rally-jobs/README.rst"

Add Pure Storage FibreChannel driver

    This commit adds a FibreChannel driver for Pure Storage. The driver shares
    the majority of functionality with base driver and only has the code
    necessary to support connection to FibreChannel.

Implements: blueprint pure-fc-driver
Change-Id: Ia4ce76d6a2ec754951c13d3620f9f47d6920058b

Merge "Refactor scheduler's create_volume flow"

Fix exception parameter name

Trivial fix for an exception parameter being passed in via the
wrong named parameter.

Change-Id: I55cb8b181dea58b7feea8f715ae06942d6e4c784
Closes-Bug: 1462096

Move Dothill tests out of root test directory

The Dothill code merged but unfortunately had it's
unit tests in the base tests directory.

This patch just moves it to tests/unit/volume/drivers

Change-Id: I010ed2f784384e272599ec3139957989f8838e6f
Closes-Bug: #1462106

Fix remaining memory issues with nfs backup unit tests

Here we fix another place in the nfs backup unit tests where
the configured file size was larger than the chunk size in
the corresponding Swift backup tests.  I missed this one in

   https://review.openstack.org/#/c/165394

and even though code with that fix ran fine in a bare 1GB VM,
there are still memory issues when run in CI with a VM of that
size.

Closes-Bug: 1452811
Change-Id: I20dcfb657699e1b415ae2e36ec63f8c6b0049285

Merge "Removed explicit return from __init__ method"

Don't send heartbeats if Manager reports a problem

This commit adds is_working method to base Manager class that can be
used to indicate that service has some problems and isn't running
correctly. This is used to block refreshing Service heartbeats if
Manager will return False from is_working.

The method is implemented in c-vol Manager to return initialization
state of the underlying volume driver.

Closes-Bug: 1446750
DocImpact

Change-Id: I809b2b777a0f84d12f39f2233920ec961f74f846

Changes in rally-jobs/README.rst

Changes:
 * fix broken links
 * add link to release notes

Change-Id: I01b360bab2ea08f3f940ea5992ac6981b68074b5

Merge "Tintri Cinder Volume driver"

Removed explicit return from __init__ method

As per python documentation [1], removed explicit return keyword
from __init__ method.

[1] https://docs.python.org/2/reference/datamodel.html#object.__init__

Closes-Bug: 1461931
Change-Id: I654d7786e1971304789bbb376f8ced2b5646370e

Merge "Return provider_id in SolidFire model update"

Merge "Clean up unused exceptions"

Merge "Fix issues with extra specs in VMAX driver"

Merge "Port ProphetStor driver to use ABCMeta driver model"

Merge "Remove un-used import at test_volume_transfer.py"

Merge "Adds FC and ISCSI Cinder drivers for DotHill Storage Arrays."

Merge "Allow provisioning to reach max oversubscription"

Return provider_id in SolidFire model update

The provider_id field was added in
commit: 9f34d34d0ab92400223e3cc87285d0d4fbdf21f9

This patch adds provider_id to the returned model
update and uses it to provide the internal SolidFire
volume ID mapping.

Next step will be to rewrite the awkward list search
of volume names to find the corresponding volume on
the SolidFire backend.

Change-Id: Ia44d46362bb1b688c4ac266afecca9ce66dcef25

Deprecate the HPLeftHandISCSIDriver CLIQ driver

This patch adds a deprecation message to the HPLeftHandISCSIDriver CLIQ
driver with the plan of removing it in the 2016.1 release. The
HPLeftHandISCSIDriver REST based driver should be used instead.

Change-Id: I9eb1fc71d7be4848f116e0585964af97cae210b5

Allow provisioning to reach max oversubscription

Currently if provisioned ratio is equal to max_over_subscription_ratio,
the capacity filter does not allow any more thin provisioning. This patch
makes a change so that thin provisioning is allowed if provisioned ratio
is equal to max_over_subscription_ratio; it will only stop provisioning
if provisioned ratio is greater than max_over_subscription_ratio.

Change-Id: Ibf13ef97472b80a1b59ffd4389a4ed2eacf67205
Partial-Bug: #1458976

Port ProphetStor driver to use ABCMeta driver model

Use new ABCMeta driver model for ProphetStor driver.

Change-Id: Ic8ecbecb661971a4535a6899b0d104ef5bdf0011
Implements: blueprint abc-driver-update

Clean up unused exceptions

Over the last cycle several drivers were removed. There
have also been changes over time in the code. As a
result, there were quite a few exception class declarations
that were no longer being used anywhere in the code base.

This removes Exception classes that were not referenced.

Change-Id: Ieed6e6e81196e7fe62d0ce22bab5620ac4a1269d

Refactor scheduler's create_volume flow

Removing duplicated code path in exception handling and fixing untrue
or unclear statements in the comments.

Change-Id: I4e3a05b503fa3b3fd20acd43571995da4c48d491

Adds FC and ISCSI Cinder drivers for DotHill Storage Arrays.

DocImpact
Implements: blueprint dothill-fc-cinder-driver
Implements: blueprint dothill-iscsi-cinder-driver

Change-Id: I6a852ee6f1df29606aca5fe6fe3c5ef427359b5c

Merge "Bump SolidFire version number"

Merge "Dell SC: update_volume_stats could use uninitialized vars"

Bump SolidFire version number

Should have bumped version in this commit:
    Ia67b2b9e3c0bf3b0b1f991e958f8eac13830f9cc

Forgot, so do it now.

Change-Id: If3ef470c8d5c3b2c178d8f7f7ad6bed1df68fef9

Merge "Disable backup progress notifications for unit tests"

Dell SC: update_volume_stats could use uninitialized vars

In _update_volume_stats in dell_storagecenter_common.py totalcapacitygb
and freespacegb are not necessarily initialized in the LOG.debug call.
Changed to data['total_capacity_gb'] and data['free_capacity_gb'].

Also initialized to total_capacity_gb and free_capacity_gb dict entries
to 'unavailable' which allowed the removal of two conditionals in the
same function.

Change-Id: Ib699e0d1cf67645298628aa96656888193843509
Closes-Bug: #1461230

Merge "Fix assertRaisesRegexp deprecation warnings in UT"

Merge "Switch get_all_snapshots to use objects"

Disable backup progress notifications for unit tests

We have code somewhere which is firing backup createprogress
notifications into the notifier, which causes random unit
test failures.

Until we determine exactly why this happening, attempt to
avoid this problem in the gate by disabling these notifications.

Related-Bug: #1412513

Change-Id: I50b7946562e757ee26cb68b17b4a5ffcd5f3fabd

Tintri Cinder Volume driver

* Volume Create/Delete
* Volume Attach/Detach
* Snapshot Create/Delete
* Create Volume from Snapshot
* Get Volume Stats
* Copy Image to Volume
* Copy Volume to Image
* Clone Volume
* Extend Volume

Implements: blueprint tintri-cinder-driver

Change-Id: I4d9f2805e02524e0e271a263376b446565294d28

Merge "Refactor PureISCSIDriver into base and iSCSI classes."

Merge "EMC VMAX Manage/Unmanage Volume"

Fix assertRaisesRegexp deprecation warnings in UT

This commit changes assertRaisesRegexp occurrences to
assertRaisesRegex to fix deprecation warnings.

Change-Id: I22fb6224057716f734a8ac69da72ccdb9b464289
Closes-Bug: 1461171

Refactor PureISCSIDriver into base and iSCSI classes.

This adds in a new class called PureBaseVolumeDriver that contains
all of the generic shared methods that utilize the management REST API.

The PureISCSIDriver now inherits from the base driver and implements
the functionality required for iSCSI hosts/initiators.

As part of this we’ve cleaned up some of the logging where it would
previously have hard coded the drivers class name in it, and moved some
static non-class helper methods into the base class.

These changes will ease future work to add additional drivers or split
them into separate files.

Implements: blueprint pure-base-driver
Change-Id: Iaf3979e5cccc150d09ca00daa3d9c3471f9795a0

Merge "Use SolidFire snapshots for Cinder snapshots"

Non-admin user to query volume filter by az

Now cinder limits non-admin user to query volume just filtered by 'name',
'status', and 'metadata', those are hard coded in cinder-api. So improve
this using config option and allow non-admin to query volume filtered by
'availability zone'.

DocImpact

Change-Id: Ia4a324959e16d7e6effe7afb18fe57562231d879
Implements: blueprint allow-non-admin-to-query-volume-filter-by-az

Merge "Fix volume creation from image with allowed_direct_url_schemes"

Merge "Add chap support to CloudByte cinder driver"

Merge "NetApp FC driver shims missing manage/unmanage"

Fix cinder concurrency issues on rtstool

Since there's no synchronized access to configfs in rtslib it can happen
that rtstool or rtslib access an element that no longer exists because
it has been removed just in the middle of a loop by another Cinder
request.

This results in quite a different number of exceptions:
- .dump()
- KeyError
- IOError
- RTSLibError on storage_object

This patch synchronizes access to all rtstool calls that access or
modify configfs using utils.synchronized decorator.

Change-Id: I341a10da54ab01be68a0cae843f35e5c841c6d81
Closes-Bug: #1460692

Use SolidFire snapshots for Cinder snapshots

This patch just replaces the use of clones on the SolidFire
backend for SolidFire Snapshot objects.  This isn't necessarily
an issue, but it is important necessary to do things like
consistency group snaps.

Note, that we have to keep compatability for things like
create_from_snapshot where the system may have clones that
were used for snapshots prior to updating the driver.

While we're here, we also removed the logging calls in the test
which shouldn't really be there, as well as the overly chatty
debug messages like "entering/leaving".  More cleanup work
can be done to logs but should be in their own patch.

Change-Id: Ia67b2b9e3c0bf3b0b1f991e958f8eac13830f9cc

Switch get_all_snapshots to use objects

The following patch switches direct db calls in
volume/api.py get_all_snapshots to use SnapshotList
instead.

Partial-Implements: blueprint cinder-objects
Change-Id: Ifdccc81a087f9797fcfbf098d3ecea3875ad7bd9

Merge "Add volume ID to fake volumes in Gluster tests"

Merge "Notification with volume and snapshot metadata"

Merge "VMware: insecure option should be exposed"

Notification with volume and snapshot metadata

Now notify message to ceilometer do not contain volume
metadata/glance_metadata and snapshot metadata, which are
useful to bill and enrich resource information in ceilometer.

This feature will add the metadata/glance_metadata of volume
and metadata of snapshot to notification usage info.

Change-Id: I04097be9f2da1d6bc45a2d5770bcd543a3f41887
Implements: blueprint notification-with-volume-and-snapshot-metadata

Merge "Create iSCSI lio portals with right IPs and port"

Merge "Fix capacity filter to allow oversubscription"

Add volume ID to fake volumes in Gluster tests

This adds the volume ID field to the fake volume objects
in the GlusterFS tests.  Turning up concurrency exposes some
issues where access of this field is attempted but doesn't
exist.

Parital-Bug: #1459854

Change-Id: I0edb4fc7f2d6d4a3c23f395b4c2a611c0e954425

Fix capacity filter to allow oversubscription

Currently the capacity filter does not allow oversubscrition
if the free physical capacity is less than the new volume size.
This was based on the assumption that a new thinly provisioned
volume will be consumed right away. This assumption does not
allow us to take full advantage of thin provisioning.

The fix is to allow oversubscription if thin provisioning is
supported and max_over_subscription_ratio is greater than or
equal to 1. The free physical capacity will not be used to
compare with the new volume size for a backend that supports
oversubscription in thin provisioning. The oversubscription
ratio and virtual free capacity will still be used to decide
whether a backend can be chosen for thin provisioning.

Closes-Bug: #1458976
Change-Id: I4c8904445654db839c25ded420915f83c3756f94

Merge "Fix response when querying host detail by host name"

Merge "Fix expression-not-assigned pylint issues"

EMC VMAX Manage/Unmanage Volume

This patch adds support for manage/unmanage volume in
the VMAX driver.

implements blueprint emc-vmax-manage-unmanage
Change-Id: If944108526e75c34dccb1d4a071131feb4cd33e4

Add chap support to CloudByte cinder driver

CloudByte iSCSI cinder driver currently does not support
iSCSI CHAP security setting. This opens a security vulnerability
whereby any host machine can mount a CloudByte iSCSI volumes
created via OpenStack.

This patch adds CHAP authentication support for the CloudByte iSCSI
cinder driver.

Admin has to manually add the auth group and chap username/password in
CloudByte storage. Driver uses the first user found in auth group.

DocImpact
Change-Id: I2c4c8320c7471e5cf2e2e242dbe1729c8974bf28
Implements: blueprint add-chap-authentication-support-to-cloudbyte-cinder-driver

Merge "Stop using deprecated timeutils.isotime()"

Merge "Fix wrong response with version details"

Multiple pools support enhancement in VNX cinder driver

This introduced a new option "storage_vnx_pool_names" which
replaced the existing option "storage_vnx_pool_name". The new option
allows user specify more than one pools to be managed by a vnx
cinder back end.

DocImpact
This change will introduce a new configuration option, so that the
documentation need to be updated.

Change-Id: Id6c3a1ecb32484fbd35dbb5814262103b322249e
Closes-Bug: 1456062

Merge "Create consistgroup from cgsnapshot support in VNX driver"

Remove un-used import at test_volume_transfer.py

There is an un-used import 'cinder.volume' at
ciner/tests/unit/api/contrib/test_volume_transfer.py.
Remove it, meanwhile there is using 'cinder.transfer.API'
at line #548 and line #581, so make the import consistent
by changed 'from cinder import transfer' to 'import cinder.transfer'.

Change-Id: I989c7b0a07e5e2836e41c0c922975f0c25b9ccdb
Closes-Bug: #1459497

Merge "Updating cmd/manage.py get_arg_string() argument parser and adding unit test"

Merge "Add standard QoS spec support to cDOT drivers"

NetApp FC driver shims missing manage/unmanage

The NetApp FC drivers' passthrough shim layers are missing the
manage/unmanage methods, causing the manage/unmanage functions
to fail.  The necessary functionality is already present in
the underlying library layer, so the trivial fix is to add the
functions to the passthrough layers. This patch also adds a
unit test to ensure the four block storage driver interfaces
remain in sync.

Change-Id: I0fa7e16b23e5148f82a8b51bf4380f4384c35759
Closes-Bug: #1444517

Updating cmd/manage.py get_arg_string() argument parser and adding unit test

Looks like get_arg_string() would improperly chop off the first two characters
of an argument that was passed in with one dash.  For example,
passing '-option foo' would return 'tion foo' instead of 'option foo'.

Change-Id: Ib9aee601711b22c5243aca35f5c6196f494d23a9
Closes-Bug: #1459453

Merge "Display NOTIFICATIONS on assert failure"

Fix expression-not-assigned pylint issues

Fixed expression-not-assigned (warning code W0106: Expression "%s" is
assigned to nothing) pylint issues in cinder project.

Closes-Bug: 1459538
Change-Id: Ibb16bde9ff0e3ebc3f1b595ea402d27938b5cf32

Add standard QoS spec support to cDOT drivers

This commit adds support for standard cinder QoS specs to
NetApp cDOT drivers, alongside our pre-existing support for
externally provisioned QoS policy groups via qualified
extra specs.

Implements-blueprint: add-qos-spec-support

Change-Id: I4bd123020d00866a346ad02919ac1d82f7236134

Merge "Avoid LUN ID collisions in NetApp iSCSI drivers"

Avoid LUN ID collisions in NetApp iSCSI drivers

Previously, the logic to calculate the LUN ID only considered a single attached
host. Because multiple hosts can be attached to a LUN, the logic needs to
consider multiple hosts. This patchset proposes to choose non-conflicting
LUN IDs across the whole array. This patch first checks for an empty LUN ID
across the array. If it doesn't find one, then it looks for the least used
LUN ID across the whole array.
The value of MAX_LUNS_PER_HOST has been changed here as the range function
iterates from 0 to n-1 LUN IDs. With Eseries backend, a maximum of 256 LUN_IDS
are supported, thus a value of 256 MAX_LUNS_PER_HOST is required.

Closes-bug: 1433825
Closes-bug: 1457995
Change-Id: I033368c12c90d7fbbaf81b065f1a1c8c5975006a

VMware: insecure option should be exposed

Commit Ida730db66b154a4d445f7a91bccb9ca5b5a26f5e introduced
certificate verification but did not expose the option to turn
on/off verification using the insecure boolean of oslo.vmware.

DocImpact

Change-Id: I834c9fb407c8790dab14db0308f7e7f1d551669e
Closes-Bug: #1451633

Merge "Dell SC driver honoring folder name after volume creation."

Create iSCSI lio portals with right IPs and port

Currently lioadm helper creates portals with fixed IP addresses 0.0.0.0
and ::0 and also uses fixed standard port 3260 instead of using store
configuration (iscsi_ip_address, iscsi_secondary_ip_addresses,
iscsi_port) from the configuration as it should.

This could lead to problems if a different port was defined in the
configuration as the target would be available only on 3260 and other
services would look for it at configured port.

With this fix we now create the right portals with the right port.

Since now we pass list of ips and port to helpers cxt helper has also
been updated to use these parameters instead of going directly to the
configuration.

Change-Id: I77e8865b1f015a9fa155f2b4552a5d9c27f5e122
Closes-Bug: #1425875

Create consistgroup from cgsnapshot support in VNX driver

Changed VNX Cinder driver to support creating a consistency group from
a consistency group snapshot and refactored the migration lun code for
reusing the code in create cg from cgsnapshot feature.

Change-Id: Id8f35b3e427262faf8c29506dfdc166403aca6db
Implements: blueprint create-cg-from-cg-snapshot-vnx

Stop using deprecated timeutils.isotime()

oslo_utils.timeutils.isotime() has been deprecated, stop using it, see:

  http://docs.openstack.org/developer/oslo.utils/api/timeutils.html#oslo_utils.timeutils.isotime

Change-Id: I0176f498db89a3a10c2474e4ae5c4b0929c65ece

Fix response when querying host detail by host name

When querying host detail by host name like
'wanghao-devstack-snapshot@lvmdriver-1'
returned by host list command, cinder returns
incorrect result in 'total' block.
"resource": {
        "volume_count": "0",
        "total_volume_gb": "0",
        "total_snapshot_gb": "0",
        "project": "(total)",
        "host": "wanghao-devstack-snapshot@lvmdriver-1",
        "snapshot_count": "0"
        }
This issue is caused by 'volume_data_get_for_host'
in sqlalchemy. This has nothing to do with multibackend,
this is due to the introduction of pool support for single
backend.
Fix this by querying volume filter by host or host name
like 'host#%' in volume_data_get_for_host.

Change-Id: I751a474677d50e552d87fe06fadfed45e3c1ddab
Closes-Bug: #1429787

Fix wrong response with version details

Now,Version details for API v2 were being reported as v1.

This patch fixed this bug.

Change-Id: I9698b33210e7d2f89f8a717d0ad2ada3edb4c391
Closes-bug:#1458850

Merge "Leverage dict comprehension in PEP-0274"

Merge "Targets test refactoring"

Merge "Address 0x712d8e0e error in VNX Cinder Driver"

Merge "Add missing '-o' CLI option to VNX Cinder Driver"

Merge "Brocade driver not parsing zone data correctly"

Merge "Don't use dict.iterkeys()"

Display NOTIFICATIONS on assert failure

From time to time we have itermitent errors regarding the
fake_notifier.NOTIFICATIONS count.

This patch does two things to try to find out which notifications are
being fired unexpectedly:
- Make sure that fake_notifier is reset in cleanup regardless of
  exception raised by shutil.rmtree
- Display fake_notifier.NOTIFICATIONS whenever count assertion fails.

Related-Bug: #1412513
Change-Id: I07370636d8b30098dcb2a70ef1985c2f5aee81be